WO2017013776A1 - 受信システム、送信システム、受信方法、送信方法、通信制御プログラム及び配信サーバ - Google Patents
受信システム、送信システム、受信方法、送信方法、通信制御プログラム及び配信サーバ Download PDFInfo
- Publication number
- WO2017013776A1 WO2017013776A1 PCT/JP2015/070881 JP2015070881W WO2017013776A1 WO 2017013776 A1 WO2017013776 A1 WO 2017013776A1 JP 2015070881 W JP2015070881 W JP 2015070881W WO 2017013776 A1 WO2017013776 A1 WO 2017013776A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- transmission
- data
- moving image
- audio data
- image data
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M3/00—Automatic or semi-automatic exchanges
- H04M3/42—Systems providing special services or facilities to subscribers
- H04M3/56—Arrangements for connecting several subscribers to a common circuit, i.e. affording conference facilities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
Abstract
同一種別のコンテンツを連続して高速に送信する場合であっても、受信側端末のユーザに与えられる違和感を解消又は軽減しながら、伝送遅延又はその影響を解消又は軽減する。 受信システム200の受信側演算処理部211,221は、 受信側記憶部212に記憶された音声データ又は動画データを受信側出力部225で再生させる再生制御(STEP516、STEP522及びSTEP523)と、 受信側記憶部212に記憶された未再生の音声データ又は動画データのサイズ又はデータ数を検出する受信側検出制御(STEP514)とを実行する。
Description
本発明は、受信システム、送信システム、受信方法、送信方法、通信制御プログラム及び配信サーバに関する。
近年、ネットワークを介した音声通話又はビデオ通信等のリアルタイム通信が盛んに行われている。この種のリアルタイム通信においては、送信側端末から受信側端末への音声データ又はビデオデータ等のデータの送受信に要する時間が短ければ、送信側端末から送信されたデータが受信側端末で遅延することなく再生され、受信側端末のユーザに違和感を覚えさせることがない。
しかし、通信速度が不安定な場合、伝送遅延が発生することにより、データの送受信に長時間を要してしまい、その結果、受信側端末のユーザに違和感を覚えさせるおそれがある。
このような課題に鑑みて、送信側装置が、QCI(QoS Class Identifier)等からデータパケットの優先度を判別し、当該判別されたデータパケットの優先度及びパケット送信状態に応じて、データパケットを破棄する技術が知られている(特許文献1参照)。
当該技術によれば、通信速度が不安定な場合であっても、データパケットの優先度に応じてデータパケットを破棄することによって、緊急通信又は高優先度の通信については、伝送遅延の発生を防止又は伝送遅延を解消させることが出来る。
しかしながら、QCIでは、音声通信及びストリーミングビデオ等のデータパケットのコンテンツの種別に応じて優先度が付与される。このため、同一種別のコンテンツのデータパケットを連続して高速に送信する場合には、予め個別に優先度を付与しない限り、特許文献1の技術では、伝送遅延の発生の防止又は伝送遅延の解消が困難であった。この結果、同一種別のコンテンツのデータパケットを連続して高速に送信する場合には、伝送遅延の発生によって受信側端末のユーザに違和感を覚えさせるおそれがあった。
このような問題に鑑み、本発明は、同一種別のコンテンツを連続して高速に送信する場合であっても、受信側端末のユーザに与えられる違和感を解消又は軽減しながら、伝送遅延又はその影響を解消又は軽減しうる、受信システム、送信システム、受信方法、送信方法、通信制御プログラム及び配信サーバを提供することを目的とする。
本発明の受信システムは、
外部と通信する受信側通信部と、演算処理をする受信側演算処理部と、情報を記憶する受信側記憶部と、音声データ又は動画データを再生する受信側出力部とを備える受信システムであって、
前記受信側演算処理部は、
前記受信側通信部を用いてネットワークを介して外部から受信した音声データ又は動画データを前記受信側記憶部に記憶する受信側記憶制御と、
前記受信側記憶部に記憶された前記音声データ又は前記動画データを前記受信側出力部で再生させる再生制御と、
前記受信側記憶部に記憶された未再生の音声データ又は動画データのサイズ又はデータ数を検出する受信側検出制御とを実行することを特徴とする。
外部と通信する受信側通信部と、演算処理をする受信側演算処理部と、情報を記憶する受信側記憶部と、音声データ又は動画データを再生する受信側出力部とを備える受信システムであって、
前記受信側演算処理部は、
前記受信側通信部を用いてネットワークを介して外部から受信した音声データ又は動画データを前記受信側記憶部に記憶する受信側記憶制御と、
前記受信側記憶部に記憶された前記音声データ又は前記動画データを前記受信側出力部で再生させる再生制御と、
前記受信側記憶部に記憶された未再生の音声データ又は動画データのサイズ又はデータ数を検出する受信側検出制御とを実行することを特徴とする。
本発明の受信システムによれば、受信側演算処理部は、受信側記憶制御によって受信側通信部を用いて連続的又は断続的に受信した音声データ又は動画データを受信側記憶部に記憶し、再生制御によって当該受信側記憶部に記憶された音声データ又は動画データを受信側出力部で再生する。
しかし、受信システムと外部との通信状況が悪化し、その後通信状況が回復した場合などにおいて、受信システムが単位時間あたりに受信するデータ量(サイズ又はデータ数)が受信システムが単位時間当たりに再生するデータ量(サイズ又はデータ数)よりも大きいと、未再生の音声データ又は動画データが受信側記憶部にたまっていくこととなる。この結果、受信側記憶部にたまった未再生の音声データ又は動画データ分だけ再生遅れが発生し、ユーザに違和感を与えるおそれがある。
この点、本発明の受信システムによれば、受信側検出制御が実行されることにより未再生の音声データ又は動画データのサイズ又はデータ数が検出される。この結果、検出結果を用いて受信システムが再生遅れの影響を解消又は軽減しうる。
本発明の受信システムにおいて、
前記受信側演算処理部は、
前記受信側検出制御の検出結果に基づき、前記未再生の音声データ又は動画データの全部又は連続した一部を前記再生制御による再生の対象外とする再生除外制御を実行することが好ましい。
前記受信側演算処理部は、
前記受信側検出制御の検出結果に基づき、前記未再生の音声データ又は動画データの全部又は連続した一部を前記再生制御による再生の対象外とする再生除外制御を実行することが好ましい。
当該構成の受信システムによれば、再生除外制御が実行されることにより、受信側検出制御の検出結果に基づき、未再生の音声データ又は動画データの全部又は連続した一部が再生制御による再生の対象外とされる。
この結果、外部から受信システムへの伝送遅延が解消したことにより、受信システムが外部から大量の音声データ又は動画データを短時間で受信し、受信側記憶部に未再生の音声データ又は動画データがたまった場合に、再生除外処理によって、未再生の音声データ又は動画データの全部又は連続した一部が再生制御による再生の対象外とされる。これにより、受信側記憶部に記憶された全部の音声データ又は動画データが再生される場合に比べ、音声データまたは動画データが受信側記憶部に記憶された時から再生されるまでの待ち時間が短くなるので、伝送遅延の影響が解消又は軽減される。
ここで、再生制御による再生の対象外とされる音声データ又は動画データが連続したデータであれば、ユーザがその欠落した内容を推測できる又は気にしない場合が多いので、受信側通信部を介して受信した及び後に受信される全体の音声データ又は動画データの内容の理解にさほど影響を及ぼさないと考えられる。
したがって、当該構成の受信システムによれば、ユーザに与えられる違和感が解消又は軽減されながら、伝送遅延の影響が解消又は軽減される。
当該構成の受信システムにおいて、
前記再生除外制御は、再生時間にして1~5秒分の連続した前記未再生の音声データ又は動画データを前記再生制御による再生の対象外とする制御を含むことが好ましい。
前記再生除外制御は、再生時間にして1~5秒分の連続した前記未再生の音声データ又は動画データを前記再生制御による再生の対象外とする制御を含むことが好ましい。
本発明者らの検討によって、再生時間にして1~5秒分の連続した未再生の音声データ又は動画データを再生制御による再生の対象外とする制御を行う場合、1秒未満分の連続した未再生の音声データ若しくは動画データを再生対象外としたりする場合又は5秒より長い連続した未再生の音声データ若しくは動画データを再生対象外としたりする場合に比べ、受信側ユーザの違和感を押えることが出来ることが判明した。
すなわち、1秒未満分の連続した未再生の音声データ又は動画データを再生対象外とする場合であると、再生制御による再生の対象外となるデータ量が小さいため、本願発明の受信システムと比べより頻繁に再生除外処理を行う必要がある。しかしながら、頻繁に再生除外処理が行われるとユーザに違和感が与えられかねない。
他方、5秒よりも長い連続した未再生の音声データ又は動画データを再生制御による再生の対象外とする場合、再生除外制御一回当たりの欠落データ量が大きくなり、ユーザがその欠落した内容を推測できず又は気にするようになるおそれがある。この結果、5秒以上の連続した未再生の音声データ又は動画データを再生制御による再生の対象外とすると、ユーザに違和感を与えかねない。
この点、当該構成の受信システムによれば、再生除外制御が実行されることにより、再生時間にして1~5秒分の連続した前記未再生の音声データ又は動画データが再生制御による再生の対象外とされる。1~5秒分の連続した未再生の音声データ又は動画データが再生制御による再生の対象外とされる場合には、前述したような違和感はユーザに与えられないことが多い。
従って、当該構成の受信システムによれば、ユーザに与えられる違和感が解消又は軽減されながら、伝送遅延の影響が解消又は軽減される。
これらの受信システムにおいて、
前記再生除外制御は、前記受信側検出制御により検出された前記未再生の音声データ又は動画データのサイズ又はデータ数が所定のサイズ又はデータ数以上である場合に、前記未再生の音声データ又は動画データの全部又は連続した一部を前記再生制御による再生の対象外とする制御を含むことが好ましい。
前記再生除外制御は、前記受信側検出制御により検出された前記未再生の音声データ又は動画データのサイズ又はデータ数が所定のサイズ又はデータ数以上である場合に、前記未再生の音声データ又は動画データの全部又は連続した一部を前記再生制御による再生の対象外とする制御を含むことが好ましい。
当該構成の受信システムによれば、再生除外制御において、前記受信側検出制御により検出された前記未再生の音声データ又は動画データのサイズ又はデータ数が所定のサイズ又はデータ数以上であることを一つの要件として、未再生の音声データ又は動画データの全部又は連続した一部が再生制御による再生の対象外とされる。
すなわち、未再生の音声データ又は動画データのサイズ又はデータ数が所定のサイズ又はデータ数以上になったときにのみ再生除外処理が実行されることとなるので、再生除外処理が頻繁に実行されることが回避され、ユーザに与えられる違和感が解消又は軽減される。
本発明の受信システムにおいて、
前記再生制御は、
前記受信側検出制御により検出された未再生の音声データ又は動画データのサイズ又はデータ数が所定のサイズ又はデータ数以上であるという条件を充足している場合に、前記条件を充足していない場合よりも、前記未再生の音声データ又は動画データの全部又は連続した一部の再生速度を速くする制御を含むことが好ましい。
前記再生制御は、
前記受信側検出制御により検出された未再生の音声データ又は動画データのサイズ又はデータ数が所定のサイズ又はデータ数以上であるという条件を充足している場合に、前記条件を充足していない場合よりも、前記未再生の音声データ又は動画データの全部又は連続した一部の再生速度を速くする制御を含むことが好ましい。
当該構成の受信システムによれば、再生制御において、未再生の音声データ又は動画データのサイズ又はデータ数が所定のサイズ又はデータ数以上であるという条件を充足している場合、条件を充足していない場合よりも、未再生の音声データ又は動画データの全部又は連続した一部の再生速度が速くなる。
この結果、外部から受信システムへの伝送遅延が解消したことにより、受信システムが外部から大量の音声データ又は動画データを短時間で受信し、受信側記憶部に未再生の音声データ又は動画データがたまった場合に、未再生の音声データ又は動画データの全部又は連続した一部が速い再生速度で再生されることにより、たまっているデータの減少を促進することが出来るので、伝送遅延の影響が解消又は軽減される。
ここで、速い再生速度で再生されても、ユーザは、音声データ又は動画データで再生される内容の全体像を十分把握できる場合が多い。そして、前記条件を充足しているときに早送りされることにより、ユーザに伝送遅延が発生していたことを認識させることが出来る。
この結果、ユーザに伝送遅延が発生していたことを認識させるとともに当該伝送遅延の影響を解消又は軽減しながら音声データ又は動画データの内容を把握させることが出来るので、ユーザに与えられる違和感が解消又は軽減される。
本発明の受信システムにおいて、
前記再生制御は、前記音声データ又は前記動画データを前記受信側記憶部に保持された時刻が早いデータから先に読み出して、前記受信側出力部で再生させる制御を含んでもよい。
前記再生制御は、前記音声データ又は前記動画データを前記受信側記憶部に保持された時刻が早いデータから先に読み出して、前記受信側出力部で再生させる制御を含んでもよい。
又は、本発明の受信システムにおいて、
前記再生制御は、前記受信側通信部で受信された前記音声データ又は前記動画データを、当該音声データ又は動画データに含まれる再生順を示すデータに従って再配列して前記受信側出力部で再生させる制御を含んでもよい。
前記再生制御は、前記受信側通信部で受信された前記音声データ又は前記動画データを、当該音声データ又は動画データに含まれる再生順を示すデータに従って再配列して前記受信側出力部で再生させる制御を含んでもよい。
これらの受信システムによれば、受信側記憶部に保持された時刻が早いデータから先に読み出して受信側出力部で再生され、又は再生順を示すデータに従って再配列された音声データ又は動画データが受信側出力部で再生される。この結果、ユーザに与えられる違和感が軽減又は解消される。
本発明の受信方法は、
外部と通信する受信側通信部と、演算処理をする受信側演算処理部と、情報を記憶する受信側記憶部と、音声データ又は動画データを再生する受信側出力部とを備える受信システムの前記受信側演算処理部が実行する方法であって、
前記受信側通信部を用いてネットワークを介して外部から受信した音声データ又は動画データを前記受信側記憶部に記憶する受信側記憶制御ステップと、
前記受信側記憶部に記憶された前記音声データ又は前記動画データを前記受信側出力部で再生させる再生制御ステップと、
前記受信側記憶部に記憶された未再生の音声データ又は動画データのサイズ又はデータ数を検出する受信側検出制御ステップとを含むことを特徴とする。
外部と通信する受信側通信部と、演算処理をする受信側演算処理部と、情報を記憶する受信側記憶部と、音声データ又は動画データを再生する受信側出力部とを備える受信システムの前記受信側演算処理部が実行する方法であって、
前記受信側通信部を用いてネットワークを介して外部から受信した音声データ又は動画データを前記受信側記憶部に記憶する受信側記憶制御ステップと、
前記受信側記憶部に記憶された前記音声データ又は前記動画データを前記受信側出力部で再生させる再生制御ステップと、
前記受信側記憶部に記憶された未再生の音声データ又は動画データのサイズ又はデータ数を検出する受信側検出制御ステップとを含むことを特徴とする。
本発明の受信方法が実行されることにより、本発明の受信システムと同様の作用効果が奏される。
本発明の通信制御プログラムは、
外部と通信する受信側通信部と、演算処理をする受信側演算処理部と、情報を記憶する受信側記憶部と、音声データ又は動画データを再生する受信側出力部とを備える受信システムの前記受信側演算処理部を、
前記受信側通信部を用いてネットワークを介して外部から受信した音声データ又は動画データを前記受信側記憶部に記憶する受信側記憶制御手段、
前記受信側記憶部に記憶された前記音声データ又は前記動画データを前記受信側出力部で再生させる再生制御手段、及び
前記受信側記憶部に記憶された未再生の音声データ又は動画データのサイズ又はデータ数を検出する受信側検出制御手段として機能させることを特徴とする。
外部と通信する受信側通信部と、演算処理をする受信側演算処理部と、情報を記憶する受信側記憶部と、音声データ又は動画データを再生する受信側出力部とを備える受信システムの前記受信側演算処理部を、
前記受信側通信部を用いてネットワークを介して外部から受信した音声データ又は動画データを前記受信側記憶部に記憶する受信側記憶制御手段、
前記受信側記憶部に記憶された前記音声データ又は前記動画データを前記受信側出力部で再生させる再生制御手段、及び
前記受信側記憶部に記憶された未再生の音声データ又は動画データのサイズ又はデータ数を検出する受信側検出制御手段として機能させることを特徴とする。
本発明の通信制御プログラムによって受信システムの受信側演算処理部が受信側記憶制御手段、再生制御手段及び受信側検出制御手段として機能することにより、本発明の受信システムと同様の作用効果が奏される。
本発明の配信サーバは、
当該構成の通信制御プログラムを記憶する配信サーバ記憶部と、外部と通信する配信サーバ通信部と、前記通信制御プログラムを前記配信サーバ通信部によりネットワークを介して前記外部に配信する配信サーバ演算処理部とを備える。
当該構成の通信制御プログラムを記憶する配信サーバ記憶部と、外部と通信する配信サーバ通信部と、前記通信制御プログラムを前記配信サーバ通信部によりネットワークを介して前記外部に配信する配信サーバ演算処理部とを備える。
当該構成の配信サーバにより、受信システムに通信プログラムを配信することによって、受信システムで通信プログラムを実行させて、上述した作用効果を奏されることが出来る。
本発明の送信システムは、
外部と通信する送信側通信部と、演算処理をする送信側演算処理部と、情報を記憶する送信側記憶部と、音声データ又は動画データの入力又は受信を受け付ける送信側受付部とを備える送信システムであって、
前記送信側演算処理部は、
前記送信側受付部を介して受け付けた前記音声データ又は前記動画データを前記送信側記憶部に記憶する送信側記憶制御と、
前記送信側記憶部に記憶された前記音声データ又は前記動画データを前記送信側通信部によりネットワークを介して他の端末に送信する送信制御と、
前記送信側記憶部に記憶された未送信の音声データ又は動画データのサイズ又はデータ数を検出する送信側検出制御とを実行することを特徴とする。
外部と通信する送信側通信部と、演算処理をする送信側演算処理部と、情報を記憶する送信側記憶部と、音声データ又は動画データの入力又は受信を受け付ける送信側受付部とを備える送信システムであって、
前記送信側演算処理部は、
前記送信側受付部を介して受け付けた前記音声データ又は前記動画データを前記送信側記憶部に記憶する送信側記憶制御と、
前記送信側記憶部に記憶された前記音声データ又は前記動画データを前記送信側通信部によりネットワークを介して他の端末に送信する送信制御と、
前記送信側記憶部に記憶された未送信の音声データ又は動画データのサイズ又はデータ数を検出する送信側検出制御とを実行することを特徴とする。
本発明の送信システムによれば、送信側演算処理部は、送信側記憶制御によって送信側受付部を用いて連続的又は断続的に受け付けた音声データ又は動画データを送信側記憶部に記憶し、送信制御によって当該送信側記憶部に記憶された音声データ又は動画データを送信側通信部を用いて他の端末に送信する。送信された音声データまたは動画データは、他の端末(受信側端末)において受信され、再生される。
しかし、送信システムと外部との間の通信状況が悪化した状況において、単位時間当たりに前記送信側受付部が受け付けるデータ量(サイズ又はデータ数)が、単位時間あたりに前記送信側通信部を用いて送信するデータ量(サイズ又はデータ数)よりも大きくなると、前記送信側記憶部に記憶された未送信の音声データ又は動画データがたまっていくこととなる。
この点、本発明の送信システムによれば、送信側検出制御が実行されることにより、送信側記憶部に記憶された未送信の音声データ又は動画データのサイズ又はデータ数が所定のサイズ又はデータ数が検出される。この結果、検出結果を用いて送信システムが送信システムと外部との間の通信状況が悪化したことによる伝送遅延の影響を解消又は軽減しうる。
本発明の送信システムにおいて、
前記送信側演算処理部は、
前記送信側検出制御の検出結果に基づき、前記未送信の音声データ又は動画データの全部又は連続した一部を前記送信制御による送信の対象外とする送信除外制御を実行することが好ましい。
前記送信側演算処理部は、
前記送信側検出制御の検出結果に基づき、前記未送信の音声データ又は動画データの全部又は連続した一部を前記送信制御による送信の対象外とする送信除外制御を実行することが好ましい。
当該構成の送信システムによれば、送信除外制御が実行されることにより送信側検出制御の検出結果に基づき、未送信の音声データ又は動画データの全部又は連続した一部が送信制御による送信の対象外とされる。この結果、送信待ちとなっている音声データ又は動画データが減少し、送信側受付部により受け付けられて記憶された音声データまたは動画データが送信側通信部を用いて送信されるまでの送信待ち時間が短くなるので、送信システムと外部との間の通信状況が悪化したことによる伝送遅延が解消又は軽減される。
ここで、送信制御による送信の対象外となる音声データ又は動画データが連続したデータであれば、受信側端末のユーザがその欠落した内容を推測できる又は気にしない場合が多いので、送信制御により送信された及び後に送信される全体の音声データ又は動画データの内容の理解にさほど影響を及ぼさないと考えられる。
したがって、当該構成の送信システムによれば、受信側端末のユーザに与えられる違和感が解消又は軽減されながら、伝送遅延が解消又は軽減される。
本発明の送信方法は、
外部と通信する送信側通信部と、演算処理をする送信側演算処理部と、情報を記憶する送信側記憶部と、音声データ又は動画データの入力又は受信を受け付ける送信側受付部とを備える送信システムの前記送信側演算処理部が実行する方法であって、
前記送信側受付部を介して受け付けた前記音声データ又は前記動画データを前記送信側記憶部に記憶する送信側記憶制御ステップと、
前記送信側記憶部に記憶された前記音声データ又は前記動画データを前記送信側通信部によりネットワークを介して他の端末に送信する送信制御ステップと、
前記送信側記憶部に記憶された未送信の音声データ又は動画データのサイズ又はデータ数を検出する送信側検出制御ステップとを含むことを特徴とする。
外部と通信する送信側通信部と、演算処理をする送信側演算処理部と、情報を記憶する送信側記憶部と、音声データ又は動画データの入力又は受信を受け付ける送信側受付部とを備える送信システムの前記送信側演算処理部が実行する方法であって、
前記送信側受付部を介して受け付けた前記音声データ又は前記動画データを前記送信側記憶部に記憶する送信側記憶制御ステップと、
前記送信側記憶部に記憶された前記音声データ又は前記動画データを前記送信側通信部によりネットワークを介して他の端末に送信する送信制御ステップと、
前記送信側記憶部に記憶された未送信の音声データ又は動画データのサイズ又はデータ数を検出する送信側検出制御ステップとを含むことを特徴とする。
本発明の送信方法が実行されることにより、本発明の送信システムと同様の作用効果が奏される。
本発明の通信制御プログラムは、
外部と通信する送信側通信部と、演算処理をする送信側演算処理部と、情報を記憶する送信側記憶部と、音声データ又は動画データの入力又は受信を受け付ける送信側受付部とを備える送信システムの前記送信側演算処理部を、
前記送信側受付部を介して受け付けた前記音声データ又は前記動画データを前記送信側記憶部に記憶する送信側記憶制御手段、
前記送信側記憶部に記憶された前記音声データ又は前記動画データを前記送信側通信部によりネットワークを介して他の端末に送信する送信制御手段、及び
前記送信側記憶部に記憶された未送信の音声データ又は動画データのサイズ又はデータ数を検出する送信側検出制御手段として機能させることを特徴とする。
外部と通信する送信側通信部と、演算処理をする送信側演算処理部と、情報を記憶する送信側記憶部と、音声データ又は動画データの入力又は受信を受け付ける送信側受付部とを備える送信システムの前記送信側演算処理部を、
前記送信側受付部を介して受け付けた前記音声データ又は前記動画データを前記送信側記憶部に記憶する送信側記憶制御手段、
前記送信側記憶部に記憶された前記音声データ又は前記動画データを前記送信側通信部によりネットワークを介して他の端末に送信する送信制御手段、及び
前記送信側記憶部に記憶された未送信の音声データ又は動画データのサイズ又はデータ数を検出する送信側検出制御手段として機能させることを特徴とする。
本発明の通信制御プログラムによって送信システムの送信側演算処理部が送信側記憶手段、送信制御手段及び送信側検出制御手段として機能することにより、本発明の送信システムと同様の作用効果が奏される。
図1~図8を参照して、本発明の本実施形態について説明する。
本発明の本実施形態においては、図1に示されるように、第1通信システム100と、第2通信システム200と、中継サーバ群300と、配信サーバ400とが、インターネット等の広域ネットワークを介して相互に接続されている。
(第1通信システムの構成)
第1通信システム100は、第1ユーザAに携帯される第1携帯端末110と、第1ユーザAに装着される第1装着端末120とを備える。なお、第1通信システム100が本発明の「送信システム」に相当する。
第1通信システム100は、第1ユーザAに携帯される第1携帯端末110と、第1ユーザAに装着される第1装着端末120とを備える。なお、第1通信システム100が本発明の「送信システム」に相当する。
第1携帯端末110は、タブレット型端末又はスマホなど、ユーザによる携帯が可能なようにサイズ、形状および重量が設計されている情報端末により構成されている。第1携帯端末110は、第1携帯端末演算処理装置111と、第1携帯端末記憶装置112と、第1携帯端末通信装置113と、第1携帯端末入力装置114と、第1携帯端末出力装置115とを備える。
なお、本実施形態では、第1携帯端末記憶装置112が本発明の「送信側記憶部」に相当し、第1携帯端末通信装置113が本発明の「送信側通信部」に相当する。
第1携帯端末演算処理装置111は、CPU等の演算処理装置により構成されている。第1携帯端末110には、配信サーバ400からダウンロードされた通信制御プログラム(以下、「通信制御アプリ」と適宜言う。)がインストールされている。当該通信制御アプリが起動されることにより、第1携帯端末演算処理装置111は、後述の演算処理を実行するように構成されている。通信制御アプリは、あらかじめインストールされていてもよい。
また、一の装置が他の装置との通信に基づいて情報を「認識する」とは、一の装置が他の装置から当該情報を受信すること、一の装置が他の装置から受信した信号を対象として所定の演算処理(計算処理又は探索処理など)を実行することにより当該情報を導出すること、一の装置が他の装置による演算処理結果としての当該情報を当該他の装置から受信すること、一の装置が当該受信信号にしたがって内部記憶装置又は外部記憶装置から当該情報を読み取ること等、通信を伴って当該情報を取得するためのあらゆる演算処理が実行されることを意味する。
第1携帯端末記憶装置112は、ROM、RAM及びハードディスク等の記憶装置(主記憶装置及び補助記憶装置等)およびI/O回路等により構成されている。
第1携帯端末通信装置113は、3G(3rd Generation)(登録商標)、4G(4th Generation)(登録商標)、LTE(Long Term Evolution)(登録商標)、WiFi(登録商標)等の遠距離での無線通信に適した通信規格にしたがって、不図示の基地局に接続された広域ネットワークを介して中継サーバ群300及び配信サーバ400などの外部端末と相互通信するための外部通信C11を確立するように構成されている。
また、第1携帯端末通信装置113は、Classic Bluetooth(登録商標)等のデジタル機器用近距離無線通信規格(以下、「第1通信規格」という。)に従って、近距離にある端末と通信するように構成されている。
また、第1携帯端末通信装置113は、Bluetooth Low Energy(登録商標)等の第1通信規格よりも小さな電力で通信が可能なデジタル機器用近距離無線通信規格(以下、「第2通信規格」という。)に従って、近距離にある端末と通信できるように構成されている。
第1携帯端末入力装置114は、タッチパッドのような位置入力装置により構成され、第1携帯端末出力装置115は液晶パネルのような表示装置により構成され、両装置が組み合わせられてタッチパネルが構成されている。すなわち、タッチパネルは、入力インターフェースおよび出力インターフェースとして機能する。タッチパネルには、第1携帯端末110にインストールされているアプリ(アプリケーションソフトウェア)の機能に応じた機能画像が表示される。
第1携帯端末入力装置114は、タッチパネルの代替的又は付加的に、音声入力装置(マイク)又は撮像装置などの非接触方式でユーザの入力操作(発話内容又はジェスチャ)の態様を検知する検知装置により構成されていてもよい。第1携帯端末出力装置115がタッチパネルの付加的に音声出力装置(スピーカ)により構成されていてもよい。第1携帯端末入力装置114が撮像装置など、非接触方式でユーザのジェスチャ(表情の動き、指先又は腕などの身体部分の動き)を識別しうる場合、当該ジェスチャの態様が入力操作の態様として第1携帯端末演算処理装置111により検知される。
第1携帯端末演算処理装置111は、タッチパネル(第1携帯端末入力装置114及び第1携帯端末出力装置115)におけるユーザのタッチジェスチャの態様の別に応じて、タッチパネルにおける表示コンテンツを調節する等、ユーザインターフェースマネージャ(UIM)としての機能を果たす。タッチジェスチャには、タップ(シングルタップ、ダブルタップおよびロングタップ)、フリック(上フリック、下フリック、左フリックおよび右フリック)、スワイプ、ピンチ(ピンチインおよびピンチアウト)又はマルチタッチなどが含まれる。
第1装着端末120は、たとえば、ヘッドセットである。これに加えて又は代えて、第1装着端末120は、マイク、カメラ、スピーカー及びディスプレイ等の入力装置及び出力装置を備えたメガネ又はイヤホン等のウェアラブルデバイスであってもよい。
第1装着端末120は、第1装着端末演算処理装置121と、第1装着端末記憶装置122と、第1装着端末通信装置123と、第1装着端末入力装置124と、第1装着端末出力装置125とを備える。
なお、第1装着端末入力装置124が本発明の「送信側受付部」に相当する。第1携帯端末演算処理装置111及び第1装着端末演算処理装置121が本発明の「送信側演算処理部」を構成する。
第1装着端末演算処理装置121は、CPU等の演算処理装置により構成されている。第1装着端末120には、予め装着端末装置制御プログラム(以下、「装着端末装置制御アプリ」と適宜いう。)がインストールされており、当該装着端末装置制御アプリが起動されることにより、第1装着端末演算処理装置121は、後述の演算処理を実行するように構成されている。装着端末装置制御アプリは、ユーザの操作によって配信サーバ400からダウンロードされ、第1装着端末120にインストールされてもよい。
第1装着端末記憶装置122は、ROM、RAM及びハードディスク等の記憶装置(主記憶装置及び補助記憶装置等)およびI/O回路等により構成されている。
第1装着端末通信装置123は、上述した第1通信規格及び第2通信規格に従って、近距離にある端末と通信できるように構成されている。
第1装着端末入力装置124は、ボタンまたはタッチパネル等の接触方式でユーザの入力操作の態様を検知する検知装置により構成されている。第1装着端末入力装置124には、付加的に、音声入力装置(マイク)又は撮像装置などの非接触方式でユーザの入力操作(発話内容又はジェスチャ)の態様を検知する検知装置を備えてもよい。
第1装着端末入力装置124が音声入力装置(マイク)又は撮像装置など、非接触方式でユーザの音声又はジェスチャ(表情の動き、指先又は腕などの身体部分の動き)を識別しうる場合、当該音声又はジェスチャの態様が入力操作の態様として第1装着端末演算処理装置121により検知される。
第1装着端末出力装置125は、音声出力装置(スピーカ)又は映像表示装置により構成されている。第1装着端末120の装着時に第1装着端末出力装置125から出力される情報が第1装着端末入力装置124に全く又はほとんど入力されなくなるように、第1装着端末入力装置124と第1装着端末出力装置125とが配置されている。
第1携帯端末110が、マイク又は撮像装置をそなえることにより、音声データ又は動画データの入力を受け付けるように構成されている場合には、第1装着端末120が省略されてもよい。この場合、第1通信システム100が第1携帯端末110のみで構成されてもよい。この場合、第1携帯端末演算処理装置111が本発明の「送信側演算処理部」に相当し、第1携帯端末110に備えられたマイク又は撮像装置が本発明の「送信側入力部」に相当する。
(第2通信システムの構成)
第2通信システム200は、第2ユーザBに携帯される第2携帯端末210と、第2ユーザBに装着される第2装着端末220とを備える。なお、第2通信システム200が本発明の「受信システム」に相当する。
第2通信システム200は、第2ユーザBに携帯される第2携帯端末210と、第2ユーザBに装着される第2装着端末220とを備える。なお、第2通信システム200が本発明の「受信システム」に相当する。
第2携帯端末210は、第1携帯端末110と同様に、第2携帯端末演算処理装置211と、第2携帯端末記憶装置212と、第2携帯端末通信装置213と、第2携帯端末入力装置214と、第2携帯端末出力装置215とを備える。
なお、本実施形態では、第2携帯端末記憶装置212が本発明の「受信側記憶部」に相当し、第2携帯端末通信装置213が本発明の「受信側通信部」に相当する。
第2携帯端末演算処理装置211、第2携帯端末記憶装置212、第2携帯端末通信装置213、第2携帯端末入力装置214、及び第2携帯端末出力装置215は、それぞれ、第1携帯端末演算処理装置111、第1携帯端末記憶装置112、第1携帯端末通信装置113、第1携帯端末入力装置114、第1携帯端末出力装置115のそれぞれと同様の構成を有している。第2携帯端末演算処理装置211は、通信制御アプリにより、後述の演算処理を実行するように構成されている。
また、第2装着端末220は、第1装着端末120と同様に、第2装着端末演算処理装置221と、第2装着端末記憶装置222と、第2装着端末通信装置223と、第2装着端末入力装置224と、第2装着端末出力装置225とを備える。
なお、第2装着端末出力装置225が本発明の「受信側出力部」に相当する。第2携帯端末演算処理装置211及び第2装着端末演算処理装置221が本発明の「受信側演算処理部」を構成する。
第2携帯端末通信装置213は、第1携帯端末通信装置113と同様に、3G(3rd Generation)、4G(4th Generation)、LTE(Long Term Evolution)、WiFi等の遠距離での無線通信に適した通信規格にしたがって、不図示の基地局に接続された広域ネットワークを介して中継サーバ群300及び配信サーバ400などの外部端末と相互通信するための外部通信C21を確立するように構成されている。
また、第2携帯端末通信装置213は、第1通信規格及び第2通信規格に従って通信するように構成されている。
第2装着端末演算処理装置221、第2装着端末記憶装置222、第2装着端末通信装置223、第2装着端末入力装置224、及び第2装着端末出力装置225のそれぞれは、第1装着端末演算処理装置121、第1装着端末記憶装置122、第1装着端末通信装置123、第1装着端末入力装置124、及び第1装着端末出力装置125のそれぞれと同様の構成を有している。
なお、第2携帯端末210が、スピーカ又は動画再生装置を備えることにより、音声データ又は動画データの出力をするように構成されている場合には、第2装着端末220が省略されてもよい。この場合、第2通信システム200が第2携帯端末210のみで構成されてもよい。この場合、第2携帯端末演算処理装置211が本発明の「送信側演算処理部」に相当し、第2携帯端末210に備えられたスピーカ又は動画再生装置が本発明の「受信側出力部」に相当する。
(中継サーバ群の構成)
中継サーバ群300は、第1サーバ310と、第2サーバ320とを備える。
中継サーバ群300は、第1サーバ310と、第2サーバ320とを備える。
第1サーバ310は、第1サーバ演算処理装置311と、第1サーバ記憶装置312と、第1サーバ通信装置313とを備える。
第1サーバ演算処理装置311は、CPU等の演算処理装置により構成されている。第1サーバ演算処理装置311は、予めインストールされた第1サーバプログラムに従って、後述の演算処理を実行するように構成されている。
第1サーバ記憶装置312は、ROM、RAM及びハードディスク等の記憶装置(主記憶装置及び補助記憶装置等)およびI/O回路等により構成されている。
第1サーバ通信装置313は、有線通信に適した通信規格にしたがって、第1サーバ310に接続された広域ネットワークを介して第1通信システム100及び第2通信システム200などの外部端末並びに第2サーバ320と相互通信するように構成されている。
第2サーバ320は、第2サーバ演算処理装置321と、第2サーバ記憶装置322と、第2サーバ通信装置323とを備える。
第2サーバ演算処理装置321は、CPU等の演算処理装置により構成されている。第2サーバ演算処理装置321は、予めインストールされた第2サーバプログラムに従って、後述の演算処理を実行するように構成されている。
第2サーバ記憶装置322は、ROM、RAM及びハードディスク等の記憶装置(主記憶装置及び補助記憶装置等)およびI/O回路等により構成されている。
第2サーバ通信装置323は、有線通信に適した通信規格にしたがって、第2サーバ320に接続された広域ネットワークを介して第1通信システム100、第2通信システム200などの外部端末、第1サーバ310、及びSNSサーバ等の外部のサーバと相互通信するように構成されている。
(配信サーバの構成)
配信サーバ400は、配信サーバ演算処理装置401と、配信サーバ記憶装置402と、配信サーバ通信装置403とを備える。
配信サーバ400は、配信サーバ演算処理装置401と、配信サーバ記憶装置402と、配信サーバ通信装置403とを備える。
配信サーバ演算処理装置401は、CPU等の演算処理装置により構成されている。配信サーバ演算処理装置401は、予めインストールされた配信サーバプログラムに従って、外部から要求を受けた場合、配信サーバ記憶装置402に記憶された通信制御プログラム又は装着端末装置制御プログラムを配信する演算処理を実行するように構成されている。本実施形態では、第1通信システム100及び第2通信システム200からの要求に応じて、通信制御プログラム及び装着端末装置制御プログラムを第1通信システム100及び第2通信システム200に配信する。
配信サーバ記憶装置402は、ROM、RAM及びハードディスク等の記憶装置(主記憶装置及び補助記憶装置等)およびI/O回路等により構成されている。
配信サーバ通信装置403は、有線通信に適した通信規格にしたがって、配信サーバ400に接続された広域ネットワークを介して第1通信システム100、及び第2通信システム200などの外部端末と相互通信するように構成されている。
なお、第1サーバ310、第2サーバ320及び配信サーバ400のそれぞれは、その一部又は全部が第1携帯端末110及び第2携帯端末210の各構成要素により構成されていてもよい。
例えば、第1サーバ310の全部の機能を果たすためのサーバプログラムが第1携帯端末110にインストールされ、第1携帯端末演算処理装置111が当該サーバプログラムを実行することにより、第1携帯端末110が単独で第1サーバ310として機能してもよい。
また、第1サーバ310の一部の機能を果たすためのサーバプログラムが第1携帯端末110にインストールされ、第1携帯端末演算処理装置111が当該サーバプログラムを実行し、第1サーバ310の残部の機能を果たすためのサーバプログラムがインストールされた他の機器と通信することにより、第1携帯端末110と当該他の機器とが協働して第1サーバ310として機能してもよい。
(情報送受信処理の概略)
次に、図2を参照しながら、第1ユーザAが所持する第1通信システム100から中継サーバ群300を介して第2ユーザBが所持する第2通信システム200へ音声データ又は動画データが送信される場合の一連処理の概略を説明する。
次に、図2を参照しながら、第1ユーザAが所持する第1通信システム100から中継サーバ群300を介して第2ユーザBが所持する第2通信システム200へ音声データ又は動画データが送信される場合の一連処理の概略を説明する。
まず、STEP002において、第1ユーザAによる第1携帯端末入力装置114に対する指示操作に応じて、第1通信システム100の第1携帯端末演算処理装置111が、第1携帯端末通信装置113を介して中継サーバ群300の第1サーバ310にアクセスし、第1ユーザAの第1サーバ310へのユーザ登録を行う。
通信制御アプリの初回起動時には、第1携帯端末演算処理装置111は、図3Aに示されるユーザ登録画面P1を第1携帯端末出力装置115に表示させる。
ユーザ登録画面P1には、登録を行うユーザの写真等、ユーザを示すアイコンを指定するアイコン指定フィールドP11と、ユーザの氏名を入力するユーザ氏名入力フィールドP12,P13と、ユーザ名(ユーザID)を入力するユーザ名入力フィールドP14と、パスワードを入力するパスワード入力フィールドP15と、音声又は動画登録画面P2に遷移するための遷移ボタンP16とが含まれている。
また、これに加えてまたは代えて、第1携帯端末演算処理装置111は、外部のSNSサーバのユーザIDの登録画面を第1携帯端末出力装置115に表示させてもよい。たとえば、第1携帯端末演算処理装置111は、最初に外部のSNSサーバのユーザIDの登録画面を第1携帯端末出力装置115に表示させ、ユーザの選択により、ユーザ登録画面P1を第1携帯端末出力装置115に表示させてもよい。
第1携帯端末演算処理装置111は、所定の情報が入力された状態で、第1ユーザAによる遷移ボタンP16の押下を検知すると、音声又は動画登録画面P2を第1携帯端末出力装置115に表示させる。
音声又は動画登録画面P2では、第1携帯端末入力装置114又は第1装着端末入力装置124が起動され、第1ユーザAの挨拶等の短い音声が録音され又は第1ユーザAのジェスチャー等が撮像される。
音声又は動画登録画面P2は、音声の録音状況又は撮像状況を示すステータス表示フィールドP21と、一度録音又は撮像されたデータをクリアするためのクリアボタンP22と、ユーザ登録を完了するための登録ボタンP23とが含まれている。
第1携帯端末演算処理装置111は、録音又は撮像が完了した状態で、第1ユーザAによる登録ボタンP23の押下を検知すると、入力された情報を第1サーバ310に送信する。
STEP004において、第1サーバ演算処理装置311は、第1サーバ通信装置313を介して入力情報を受信すると、当該入力情報と送信元の連絡先(メールアドレス又は携帯端末の端末識別子等)とを関連付けて第1サーバ記憶装置312に記憶する。これにより、第1ユーザAの第1サーバ310に対するユーザ登録が完了する。
第2携帯端末演算処理装置211も、第1携帯端末演算処理装置111と同様に、第2ユーザBの第1サーバ310に対するユーザ登録処理を実行する(STEP006及びSTEP008参照)。
STEP100において、第1通信システム100(第1携帯端末110及び第1装着端末120)は、後述する接続処理を実行することにより、第1携帯端末110と第1装着端末120とが相互に通信するための第1通信規格に従った内部通信C12及び第2通信規格に従った内部通信C13を確立する。
STEP200において、第2通信システム200(第2携帯端末210及び第2装着端末220)は、第1通信システム100と同様に、後述する接続処理を実行することにより、第2携帯端末210と第2装着端末220とが相互に通信するための第1通信規格に従った内部通信C22及び第2通信規格に従った内部通信C23を確立する。
STEP300において、第1携帯端末110、中継サーバ群300及び第2携帯端末210は、後述するグループ作成処理を実行することにより、第1携帯端末110と第2携帯端末210とが中継サーバ群300を介して音声データ又は動画データを送受信するための経路を確立する。
STEP400において、第1装着端末120、第1携帯端末110、及び中継サーバ群300は、後述するデータ送信処理を行うことにより、第1装着端末120で入力された音声データ又は動画データを第1携帯端末110が中継サーバ群300へ送信する。
STEP500において、中継サーバ群300、第2携帯端末210、及び第2装着端末220は、後述するデータ再生処理を行うことにより、中継サーバ群300から受信した音声データ又は動画データを第2装着端末220で再生する。
(接続処理)
次に、図4を参照して、前述した第1携帯端末110と第1装着端末120との間で行われる接続処理(STEP100)の詳細を説明する。第2携帯端末210と第2装着端末220との接続処理(STEP200)も同様にして行われる。
次に、図4を参照して、前述した第1携帯端末110と第1装着端末120との間で行われる接続処理(STEP100)の詳細を説明する。第2携帯端末210と第2装着端末220との接続処理(STEP200)も同様にして行われる。
第1携帯端末110において通信制御アプリが起動すると(STEP101)、第1携帯端末演算処理装置111は、第1携帯端末記憶装置112を参照することにより、ペアリング(相互接続)済みの装着端末の情報(端末名及び端末識別子)と接続キーとが記憶されている否かを判定する(STEP102)。
STEP104の判定結果が肯定的である場合(STEP102でYES)、第1携帯端末演算処理装置111は、当該装着端末の情報と接続キーとを用いて当該装着端末(第1装着端末120)との内部通信C12、及び内部通信C13を確立する(STEP103、図1参照)。
STEP104の判定結果が否定的である場合(STEP102でNO)、第1携帯端末演算処理装置111は、第1通信規格での通信を有効にすることにより、装着端末の探索を行い(STEP104)、発見された(受信した)装着端末の情報に含まれる端末名を第1携帯端末出力装置115に出力する。
第1携帯端末演算処理装置111は、第1ユーザAによる装着端末の選択入力操作の検知に応じて、当該選択された装着端末(第1装着端末120)に対し、内部通信C12の通信確立要求を送信する(STEP105)。
第1携帯端末110の処理と並行して、第1装着端末120では、次の処理が行われる。
すなわち、第1装着端末120の電源がONとなると(STEP121)、第1装着端末演算処理装置121は、第1装着端末記憶装置122を参照することにより、ペアリング(相互接続)済みの携帯端末の情報(端末名及び端末識別子)と接続キーとが記憶されている否かを判定する(STEP122)。
STEP124の判定結果が肯定的である場合(STEP122でYES)、第1装着端末演算処理装置121は、当該装着端末の情報と接続キーとを用いて当該装着端末(第1携帯端末110)との内部通信C12、及び内部通信C13を確立する(STEP123、図1参照)。
STEP124の判定結果が否定的である場合(STEP122でNO)、第1装着端末演算処理装置121は、第1通信規格での通信を有効にすることにより、装着端末の情報を送信可能な状態とする(STEP124)。
第1装着端末演算処理装置121は、第1携帯端末110から内部通信C12の通信確立要求を受信すると、通信を行うためのキー(接続キー)を第1携帯端末110と交換することにより、第1携帯端末110との内部通信C12を確立する(STEP125、図1参照)。
続いて、第1装着端末演算処理装置121は、通信確立要求に基づき、第1携帯端末110の端末名及びMACアドレス等の端末識別子を認識する(STEP126)。
第1装着端末演算処理装置121は、端末名及び端末識別子に基づき、第1携帯端末110が、通信制御アプリ(通信アプリを実行中の第1携帯端末演算処理装置111)による第1携帯端末110の端末識別子の認識が出来ないように制限している所定種別の端末か否かを判定する(STEP127)。
当該判定結果が肯定的である場合(STEP127でYES)、第1装着端末演算処理装置121は、通信制御アプリから認識可能な情報(端末名)を含む、第2通信規格に従った通信確立要求を第1携帯端末110に送信する(STEP128)。
当該判定結果が否定的である場合(STEP127でNO)、第1装着端末演算処理装置121は、携帯端末の端末識別子を含む、第2通信規格に従った通常の通信確立要求を第1携帯端末110に送信する(STEP129)。
通信確立要求を受信した第1携帯端末演算処理装置111は、通信確立要求に含まれる情報から、第1装着端末120か否かを認証する(STEP106)。
第1携帯端末演算処理装置111は、第1装着端末120の認証が成功することを要件として、接続キーを第1装着端末120と交換することにより、第1装着端末120との内部通信C13を確立する(STEP107、STEP130)。
第1携帯端末演算処理装置111及び第1装着端末演算処理装置121のそれぞれは、それぞれ通信相手の情報(端末名及び端末識別子)と接続キーとを夫々の記憶装置に記憶する(STEP108、STEP131)。
このような処理により、仮に第1携帯端末110が通信制御アプリに対し携帯端末110及び外部端末の端末識別子の認識を制限していたとしても、第1ユーザAによる1度の操作で第1携帯端末110と第1装着端末120との間で2つの内部通信C12,C13が確立される。
第2通信システム200側でも、第2ユーザBの操作に応じて、STEP200において同様の処理が実行されることにより、第2携帯端末210と第2装着端末220との間で、2つの内部通信C22,C23が確立される。
(グループ作成処理)
次に、図5A及び図5Bを参照して、第1携帯端末110と第2携帯端末210との間で音声データ又は動画データの送受信を行うための経路を確立するグループ作成処理(STEP300)を説明する。
次に、図5A及び図5Bを参照して、第1携帯端末110と第2携帯端末210との間で音声データ又は動画データの送受信を行うための経路を確立するグループ作成処理(STEP300)を説明する。
第1携帯端末110の第1携帯端末演算処理装置111は、第2通信規格による通信により、周囲の端末を探索する(STEP301)。
ここで、第2携帯端末210の第2携帯端末演算処理装置211は、第2通信規格を利用して、STEP006で登録したユーザIDが含まれるパケット、たとえばアドバタイズパケットを発信する(STEP321)。
このパケットを受信した第1携帯端末演算処理装置111は、パケットに含まれるユーザIDを含む、ユーザIDに対応するアイコン画像及びSTEP006で登録された音声データ又は動画データ等の取得要求を第1サーバ310に送信する(STEP302)。
当該取得要求を受信した第1サーバ310の第1サーバ演算処理装置311は、取得要求に含まれるユーザIDを、第1サーバ記憶装置312又はSNSサーバに照会することにより、当該ユーザIDに対応するに対応するアイコン画像及び音声データ又は動画データ等を取得し、当該アイコン画像及び音声データ又は動画データ等を含む返答を第1携帯端末110へ送信する(STEP341)。
第1携帯端末演算処理装置111は、第1サーバ310より受信した返答に含まれるアイコン画像及び音声データ又は動画データ等に基づき、図3Cに示されるグループ作成画面P3を作成し、第1携帯端末出力装置115に出力する(STEP303)。
グループ作成画面P3には、各メンバに対応するアイコン画像P31と、作成するべきグループの名称を示すグループ名称画像P32と、メンバを追加するためのメンバ追加ボタンP33と、過去の履歴を参照する履歴参照ボタンP34と、選択されたメンバを招待してグループ作成処理を進める招待ボタンP35と、選択されているメンバの人数を示すメンバ数表示P36とが含まれている。
第1携帯端末演算処理装置111は、第1ユーザAによるアイコン画像P31の押下を検知すると、当該押下されたアイコン画像P31のユーザIDに対応する音声データ又は動画データを第1携帯端末出力装置115に出力する。
第1携帯端末演算処理装置111は、第1ユーザAによるメンバ追加ボタンP33又は履歴参照ボタンP34の押下を検知すると(STEP304でYES)、第1サーバ310にユーザのリストの取得要求を送信し(STEP305)、取得したユーザIDに対応するアイコン画像及び音声データ又は動画データ等に基づき、グループ作成画面P3を更新し、第1携帯端末出力装置115に出力する(STEP303)。
第1携帯端末演算処理装置111は、たとえば、メンバ追加ボタンP33の押下を検知した場合、図3Dに示されるユーザ追加画面P4を表示する。
ユーザ追加画面P4には、氏名等で追加するメンバを検索するための検索ボックスP41と、第1サーバ310に記憶された第1携帯端末110(に記憶されているユーザID)の過去の通信履歴に含まれるメンバをリスト表示する過去メンバ表示P42と、SNS等から取得したメンバをリスト表示するSNSメンバ表示P43と、選択されたユーザを追加するための追加ボタンP44とが含まれている。
第1携帯端末演算処理装置111は、メンバが選択された状態で第1ユーザAによる追加ボタンP44の押下を検知すると、当該選択されたメンバのアイコン画像をグループ作成画面P3に追加して表示する(STEP303)。
また、第1携帯端末演算処理装置111は、第1ユーザAによる履歴参照ボタンP34の押下を検知した場合、図3Eに示される履歴表示画面P5を表示する。
履歴表示画面P5には、過去のグループ名と参加メンバのアイコン画像とが含まれるグループ表示P51が複数含まれている。
第1携帯端末演算処理装置111は、第1ユーザAによるメンバ追加ボタンP33又は履歴参照ボタンP34の押下を検知しないせずに(STEP304でNO)、たとえば、第1ユーザAによるいずれかのグループ表示P51の押下を検知した場合、当該グループ表示P51に含まれる参加メンバのアイコン画像をグループ作成画面P3に追加して表示する(STEP303)。これに代えて、第1携帯端末演算処理装置111は、STEP302に戻らずに、後述するSTEP306に進み、当該グループ表示P51に含まれる参加メンバで構成されるグループを作成するためのグループ作成要求を送信してもよい。
第1携帯端末演算処理装置111は、グループ作成画面P3で第1ユーザAによる招待ボタンP35の押下を検知すると、第1ユーザAのユーザIDと選択されたメンバのユーザIDとを含めたグループ作成要求を第1サーバ310に送信する(STEP306)。
第1サーバ310の第1サーバ演算処理装置311は、グループ作成要求に対して固有のグループIDを発行し、当該グループ作成要求に含まれるユーザIDとグループIDとを関連付けて第1サーバ記憶装置312に記憶する(STEP342)。
第1サーバ演算処理装置311は、第1ユーザAのユーザIDに対して固有の接続キーを発行し、第1携帯端末110宛てに当該接続キーを送信する(STEP343)。
第1携帯端末演算処理装置111は、受信した接続キーを用いて第2サーバ320に接続するとともに(STEP307)、招待メッセージ配信要求を第1サーバ310に送信する(STEP308)。
招待メッセージ配信要求を受信した第1サーバ演算処理装置311は、各参加メンバのユーザIDに対して固有の接続キーを発行し、第1サーバ記憶装置312にユーザIDと関連付けて記憶されている連絡先である携帯端末宛てに当該接続キーを送信する(STEP344)。
第1サーバ310より接続キーを受信した第2携帯端末210の第2携帯端末演算処理装置211は、図3Fに示される招待メッセージ画面P6を第2携帯端末出力装置215に出力する(STEP322)。
招待メッセージ画面P6には、夫々の招待メッセージごとに、グループ名表示P61と、招待元ユーザのアイコン画像P62と、拒否ボタンP63と、参加ボタンP64とが含まれている。
第2携帯端末演算処理装置211は、拒否ボタンP63の押下を検知すると(STEP323で「拒否」)、グループ不参加の旨を第1サーバ310に送信して処理を終了する(STEP324)。グループ不参加の旨の通知を受信した第1サーバ演算処理装置311は、その旨を第1サーバ記憶装置312に記憶する(STEP345)。
第2携帯端末演算処理装置211は、参加ボタンP64の押下を検知すると(STEP323で「参加」)、受信した接続キーを使って第2サーバ320に接続する(STEP325)。
第2サーバ320の第2サーバ演算処理装置321は、発行済みの接続キーに基づき、各携帯端末とのセッションを開始する(STEP361)。
第2サーバ演算処理装置321は、各接続キーに基づき、当該接続キーと関連付けられたグループIDとユーザIDとを第1サーバ310に問い合わせる(STEP362)。
第1サーバ310の第1サーバ演算処理装置311は、当該接続キーと関連付けられたグループIDとユーザIDとを含む返答を第2サーバ320に送信するとともに(STEP346)、当該参加メンバのユーザIDとグループIDとを関連付けて第1サーバ記憶装置312に記憶する(STEP347)。
第2サーバ320の第2サーバ演算処理装置321は、各セッションを当該セッションの接続キーに対応するグループID及びユーザIDに関連付ける(STEP363)。
以降、第2サーバ演算処理装置321は、第1携帯端末110及び第2携帯端末210からそれらに関連付けられたセッションを介して音声データ又は動画データを受信した場合、当該セッションに関連付けられたグループIDと同一のグループIDに関連付けられているセッションを介して当該音声データ又は動画データを同一のグループに所属する他のメンバの携帯端末に送信する。
これにより、同一のグループに所属するメンバ宛てに音声データ又は動画データが配信されるグループ通信が開始される(STEP364)。
第1携帯端末演算処理装置111及び第2携帯端末演算処理装置211のそれぞれは、第1携帯端末出力装置115及び第2携帯端末出力装置215のそれぞれに、図3Gに示されるトーク画面P7を表示し、グループ通信を開始する(STEP309、STEP326)。
このトーク画面P7には、グループの名称表示P71と、各参加メンバのアイコン画像P72と、他のユーザを追加するための追加ボタンP73と、音声データ又は動画データの送受信の有効及び無効を切り替えるためのボタンP74と、グループ通信を終了するための通信終了ボタンP75とが含まれている。
(データ送信処理)
次に、図6を参照して、第1装着端末120にて音声データ又は動画データの入力があった場合を例に、データ送信処理(STEP400)を説明する。
次に、図6を参照して、第1装着端末120にて音声データ又は動画データの入力があった場合を例に、データ送信処理(STEP400)を説明する。
第1装着端末演算処理装置121は、音声データ又は動画データの入力が開始されたか否かを判定する(STEP401)。なお、入力されたデータは、第1装着端末記憶装置122(メモリ)に入力された時刻順に保存される。
第1装着端末演算処理装置121は、音声区間検出(voice activity detection)により、第1装着端末入力装置124としてのマイクに発話と認められる音声が所定期間以上入力された場合に、音声データ又は動画データの入力が開始されたと判断する。
なお、第1装着端末120に設けられたボタンの押下を検知したときに、第1装着端末演算処理装置121が音声データ又は動画データの入力が開始されたと判断する構成としてもよい。
また、第1装着端末入力装置124としての撮像装置により人物又は所定の画像が撮像された場合に、第1装着端末演算処理装置121が、音声データ又は動画データの入力が開始されたと判断する構成としてもよい。
当該判定結果が否定的である場合(STEP401でNO)、第1装着端末演算処理装置121は、STEP401の処理を再度実行する。
当該判定結果が肯定的である場合(STEP401でYES)、第1装着端末演算処理装置121は、内部通信C13を介して第1携帯端末110と通信することにより、第1携帯端末110との第1通信規格での通信(内部通信C12)を再開する(STEP402、STEP421)。
第1装着端末演算処理装置121は、第1装着端末記憶装置122から、音声データ又は動画データを読み出し、内部通信C12を介して第1携帯端末110に送信する(STEP403)。
第1携帯端末演算処理装置111は、第1装着端末120から受信した音声データ又は動画データをメモリ等の第1携帯端末記憶装置112に記憶する(STEP422)。第1装着端末演算処理装置121がSTEP403を実行し、第1携帯端末演算処理装置111がSTEP422の処理を実行することにより、第1装着端末演算処理装置121及び第1携帯端末演算処理装置111が本発明の「送信側記憶制御手段」として機能する。また、STEP403及びSTEP422の処理が、本発明の「送信側記憶制御」及び「送信側記憶制御ステップ」に相当する。
第1携帯端末演算処理装置111は、音声データ又は動画データを第1携帯端末記憶装置112から、第1携帯端末記憶装置112に記憶された時刻が早い順から読み出し、所定のサイズごとに音声データ又は動画データを分割する(STEP423)。
第1携帯端末記憶装置112に記憶された時刻が、必ずしも音声データまたは動画データの再生順を示しているわけではない場合、第1携帯端末演算処理装置111は、音声データまたは動画データのヘッダ等に含まれる時刻情報又は再生番号等を参照することにより、音声データまたは動画データの再生順を特定し、当該再生順に音声データまたは動画データを読み出して所定のサイズごとに音声データ又は動画データを分割する。
第1携帯端末演算処理装置111は、分割されたデータ複数個に対し、1つのヘッダを付与して、1つのパケットデータを作成する(STEP424)。
第1携帯端末演算処理装置111は、第1装着端末120から入力完了通知を受信しているか否かを判定する(STEP425)。
STEP425の判定結果が否定的である場合(STEP425でNO)、第1携帯端末演算処理装置111は、STEP424で作成されたパケットデータを第2サーバ320に送信する(STEP426)。第1携帯端末演算処理装置111は、STEP426を実行することにより、本発明の「送信制御手段」として機能する。また、STEP426の処理が、本発明の「送信制御」及び「送信制御ステップ」に相当する。
パケットデータの送信に成功した場合(STEP426で「成功」)、第1携帯端末演算処理装置111は、STEP422以下の処理を実行する。また、第2サーバ演算処理装置321は、受信したパケットデータを第2サーバ記憶装置322に記憶する(STEP441)。
なお、第1携帯端末演算処理装置111は、たとえば、パケットデータの送信に対する第2サーバ320からの受信通知を所定時間内に受信した場合にパケットデータの送信が成功したと判定し、パケットデータの送信に対する第2サーバ320からの受信通知を所定時間内に受信しなかった場合にパケットデータの送信に失敗したと判定してもよい。
パケットデータの送信に失敗した場合(STEP426で「失敗」)、第1携帯端末演算処理装置111は、未送信のパケットデータの合計サイズが所定の第1サイズS1以上という第1条件を充足している否かを判定する(STEP427)。これに加えてまたは代えて、第1携帯端末演算処理装置111は、第1条件として、未送信のパケットデータのデータ数が所定の第1データ数以上という条件を判定してもよい。
ここで、第1サイズS1又は第1データ数は、リアルタイム性が失われていると受信側端末のユーザが感じる蓋然性が高い再生時間となるサイズ又はデータ数である。
より詳しくは、未送信のパケットデータの合計サイズ又はデータ数は、受信システム200がそのデータを受信したのちに再生に要する時間と比例関係にあるので、未送信のパケットデータの合計サイズ又はデータ数が大きくなれば、少なくとも再生に要する時間以上の再生の遅れが生じる。この再生の遅れが大きいと、受信側端末(受信システム200)のユーザが、リアルタイム性が失われていると感じる蓋然性が高い。
例えば、未送信の音声データまたは動画データの合計サイズ又はデータ数が再生時間にして5秒程度のサイズ又はデータ数であるとする場合、受信側でこれらのデータを受信し、これらのデータを通常の速度で再生すると、少なくとも再生時間分(5秒分)過去のデータが再生され、再生の遅れが生じる。この再生時間が大きくなればなるほど、再生の遅れが大きくなるので、リアルタイム性が失われているとユーザが感じるおそれが大きくなる。
第1サイズS1又は第1データ数は、上述したように、受信側端末のユーザがリアルタイム性が失われていると感じる蓋然性が高いサイズ又はデータ数であり、たとえば予め実験等により定められてもよいし、第1ユーザAにより指定されてもよい。
なお、この第1サイズS1は、本発明の「所定のサイズ」に相当する。また第1データ数は、本発明の「所定のデータ数」に相当する。
当該判定結果が否定的である場合(STEP427でNO)、第1携帯端末演算処理装置111は、STEP426のデータ送信処理を再度実行する。
当該判定結果が肯定的である場合(STEP427でYES)、第1携帯端末演算処理装置111は、第1携帯端末記憶装置112に記憶された未送信の音声データ又は動画データの連続した一部(前記第1サイズよりも小さい所定のサイズ又は前記第1データ数よりも小さいデータ数の音声データ又は動画データ)を削除し(STEP428)、STEP422以下の処理を実行する。
この場合、未送信の音声データ又は動画データを第1携帯端末記憶装置112への記憶時からの経過時間が所定時間以上である古いデータと第1携帯端末記憶装置112への記憶時からの経過時間が所定時間未満である新しいデータとに分けた場合に、第1携帯端末演算処理装置111は、古いデータを削除することが好ましい。
また、連続した一部を削除することに代え、第1携帯端末演算処理装置111は、未送信の音声データ又は動画データの全部を削除してもよい。
第1携帯端末演算処理装置111は、削除に代え、送信済みのラベルなどを付与することにより、当該データパケットを送信対象外としてもよい。
ここで、送信対象外とする未送信の音声データ又は動画データのサイズ又はデータ数は、再生時間にして1~5秒となるようなサイズ又はデータ数であることが好ましい。
STEP427の処理が、本発明の「送信側検出制御」及び「送信側検出制御ステップ」に相当し、STEP428の処理が、本発明の「送信除外制御」に相当する。また、第1携帯端末演算処理装置111が、STEP427の処理を実行することにより、本発明の「送信側検出制御手段」として機能する。
これに代えて又は加えて、第1携帯端末演算処理装置111は、送信すべきデータの総サイズが小さくなるように、未送信の音声データ又は動画データを変換して送信してもよい。たとえば、第1携帯端末演算処理装置111は、未送信の音声データ又は動画データのビットレートが低くなるように、未送信の音声データ又は動画データを変換し、変換後の未送信の音声データ又は動画データを送信してもよい。また、第1携帯端末演算処理装置111は、これに代えてまたは加えて、未送信の音声データ又は動画データのヘッダ等を参照することにより、未送信の音声データ又は動画データの再生順を特定し、当該再生順において所定番目の一部の音声データ又は動画データを間引いたのちに、残りの未送信の音声データ又は動画データを送信してもよい。
第1携帯端末演算処理装置111がこのような送信処理をしている一方で、第1装着端末演算処理装置121は、音声データ又は動画データの入力が完了したか否かを判定する(STEP404)。
当該判定結果が否定的である場合(STEP404でNO)、第1装着端末演算処理装置121は、STEP403の処理を実行する。
当該判定結果が肯定的である場合(STEP404でYES)、第1装着端末演算処理装置121は、内部通信C13を介して、第1携帯端末110に入力完了通知を送信し(STEP405)、第1通信規格での通信(内部通信C12)を停止する。
入力完了通知を受信した(STEP425でYES)第1携帯端末演算処理装置111は、データパケットの削除を行わずに、送信が完了するまでデータパケットの送信を繰り返し(STEP429~STEP430)、送信完了次第(STEP430でYES)、第1通信規格での通信(内部通信C12)を停止する(STEP431)。
これらのデータパケットを受信した第2サーバ演算処理装置321は、これらのデータパケットを第2サーバ記憶装置322に記憶する(STEP441)。
これらの一連の処理による作用を、図7Aを参照しながら、時系列に沿って説明する。
図7Aは、上のグラフが第1携帯端末110における時系列の未送信のデータの量を示すグラフであり、下のグラフが第2サーバ320における時系列の未送信のデータの量(データサイズ)を示すグラフである。いずれのグラフにおいても、縦軸がデータの量を示し、横軸が時間軸を示す。
また、図7Aのグラフにおいては、第2サーバ320と受信側端末(第2携帯端末210)との間の通信C21の状態は安定していること、及び入力終了時まで、第1装着端末入力装置124に入力された音声データ又は動画データが第1携帯端末110に常時送信され、第1携帯端末記憶装置112に記憶されている(STEP422)ことを前提とする。
なお、第1携帯端末110と第2サーバ320との通信状態が安定している場合、第1携帯端末110から第2サーバ320へ送信可能な単位時間当たりのデータの量は、第1装着端末入力装置124に入力される単位時間当たりのデータの量よりも大きい。
期間t0~t1は、第1携帯端末110(送信側端末)と第2サーバ320との間の通信C11の状態が安定している期間である。
この期間では、単位時間あたりに第1携帯端末110に入力されるデータ量C1_In(byte/sec)と、単位時間当たりに第1携帯端末110から第2サーバ320へ送信されるデータ量C1_Out(byte/sec)とが釣り合っている。このため、第1携帯端末記憶装置112に記憶されている未送信のデータは送信処理待ちのデータのみとなるで、当該データの量はほぼ一定量となる。
また、期間t0+Δt~期間t1+Δt(Δtは第1携帯端末110から第2サーバ320までデータの送受信にかかる微小な時間)の第2サーバ320において、単位時間あたりに第1携帯端末110から受信するデータ量S_In(byte/sec)と、単位時間あたりに第2携帯端末210へ送信するデータ量S_Out(byte/sec)とが釣り合っている。このため、第2サーバ記憶装置322に記憶されている未送信のデータの量はほぼ一定となる。
期間t1~t3は、第1携帯端末110と第2サーバ320との間の通信C11の状態が悪化し、ほぼ通信速度がゼロとなった期間である。
この期間では、単位時間あたりに第1携帯端末110に入力されるデータ量C1_Inが、単位時間当たりに第1携帯端末110から第2サーバ320へ送信されるデータ量C1_Outよりも大きくなる。このため、第1携帯端末記憶装置112に記憶されている未送信のデータの量は徐々に増えていく。
この時刻t2において、未送信のデータの量が所定の第1サイズS1以上となったと判定されると(STEP427でYES)、第1携帯端末演算処理装置111は、未送信のデータの連続した一部を削除する(STEP428)。これにより、第1携帯端末記憶装置112に記憶されている未送信のデータの量は減少する。
通信状態が悪化したままである場合、期間t2~t3に示されるように、第1携帯端末記憶装置112に記憶されている未送信のデータの量は再び増えていく。
他方、期間t1+Δt~t3+Δtの第2サーバ320においては、単位時間あたりに第1携帯端末110から受信するデータ量S_Inが、単位時間あたりに第2携帯端末210へ送信するデータ量S_Outよりも小さくなる。このため、第2サーバ記憶装置322に記憶されている未送信のデータの量は漸減し、最終的にほぼゼロとなる。
期間t3~t5は、第1携帯端末110と第2サーバ320との間の通信C11が回復した期間である。
期間t3~t4では、単位時間あたりに第1携帯端末110に入力されるデータ量C1_Inよりも、単位時間当たりに第1携帯端末110から第2サーバ320へ送信されるデータ量C1_Outが大きくなる。この結果、第1携帯端末記憶装置112に記憶されている未送信のデータの量は漸減する。
期間t4~t5は、ほぼ伝送遅延が解消され、第1携帯端末記憶装置112には、STEP423におけるパケット分解処理等の処理中のデータが一時的に保存されるようになった期間である。この期間では、単位時間あたりに第1携帯端末110に入力されるデータ量C1_Inと、単位時間当たりに第1携帯端末110から第2サーバ320へ送信されるデータ量C1_Outとがほぼ釣り合う。このため、第1携帯端末記憶装置112に記憶されている未送信のデータの量はほぼ一定となる。
時刻t5は、第1携帯端末演算処理装置111が入力完了通知を受信した時刻である。以降の期間t5~t6において、第1携帯端末演算処理装置111は、未送信のデータをすべて送信(STEP429~STEP430)し、処理を停止する。
他方、期間t3+Δt~t4+Δtの第2サーバ320においては、通信C11が回復したことにより、単位時間あたりに第1携帯端末110から受信するデータ量S_Inが、単位時間あたりに第2携帯端末210へ送信するデータ量S_Outよりも大きくなる。この結果、第2サーバ記憶装置322に記憶されている未送信のデータ量は漸増する。
期間t4+Δt~t6+Δtにおいては、単位時間あたりに第1携帯端末110から受信するデータ量S_Inと、単位時間あたりに第2携帯端末210へ送信するデータ量S_Outとが釣り合う。この結果、第2サーバ記憶装置322に記憶されている未送信のデータ量はほぼ一定となる。
第2サーバ演算処理装置321においては、第1携帯端末演算処理装置111が未送信のデータの送信を完了するまでの期間t5+Δt~t6+Δt分の遅延が生じるものの、その後、期間t6+Δt~t7において未送信のデータをすべて送信し、処理を停止する。
(データ受信処理)
次に、図8を参照して、データ受信処理(STEP500)を説明する。
次に、図8を参照して、データ受信処理(STEP500)を説明する。
音声データ又は動画データを受信した第2サーバ演算処理装置321は、第2サーバ記憶装置322を参照することにより、グループに所属する音声データ又は動画データの送信者以外のユーザを特定する(STEP501)。
第2サーバ演算処理装置321は、各データパケットの送信を試み(STEP502)、送信失敗の場合(STEP502で「失敗」)には、送信成功するまで再度送信を行う(STEP502)。
このような処理を、第2サーバ演算処理装置321は、すべてのデータパケットの送信が完了するまで繰り返す(STEP502~STEP503)。
第2サーバ演算処理装置321は、送信が完了すると(STEP503でYES)、処理を終了する。
他方、第2携帯端末演算処理装置211は、第2サーバ320と通信が可能になった場合(STEP511でYES)、内部通信C22を使って第2装着端末220と通信することにより、第1通信規格での内部通信C21を再開する(STEP512、STEP521)。
続いて、第2携帯端末演算処理装置211は、第2サーバ320からデータパケットを受信し、第2携帯端末記憶装置212に記憶する(STEP513)。なお、第2携帯端末演算処理装置211は、STEP513の処理を実行することにより、本発明の「受信側記憶制御手段」として機能する。また、STEP513が本発明の「受信側記憶制御」及び「受信側記憶制御ステップ」に相当する。
第2携帯端末演算処理装置211は、第2携帯端末記憶装置212に記憶された未再生のデータパケット(音声データまたは動画データ)のサイズ又はデータ数が所定の第2サイズS2又は第2データ数以上か否か判定する(STEP514)。
なお、第2携帯端末演算処理装置211は、STEP514の処理を実行することにより、本発明の「受信側検出制御手段」として機能する。また、STEP514が本発明の「受信側検出制御」及び「受信側検出制御ステップ」に相当する。
ここで、第2サイズS2又は第2データ数は、第1サイズS1又は第1データ数と同様に、リアルタイム性が失われているとユーザが感じる蓋然性が高い再生時間となるサイズ又はデータ数である。
なお、第2サイズS2は、本発明の「所定のサイズ」に相当する。また、第2データ数は、本発明の「所定のデータ数」に相当する。
当該判定結果が肯定的である場合(STEP514でYES)、第2携帯端末演算処理装置211は、第2携帯端末記憶装置212に記憶された未再生のデータパケット(音声データまたは動画データ)の連続した一部を削除し(STEP515)、STEP516の処理を実行する。
この場合、未再生のデータパケット(音声データまたは動画データ)を第2携帯端末記憶装置212への記憶時からの経過時間が所定時間以上である古いデータと第2携帯端末記憶装置212への記憶時からの経過時間が所定時間未満である新しいデータとに分けた場合に、第2携帯端末演算処理装置211は、古いデータを削除することが好ましい。
未再生のデータパケット(音声データまたは動画データ)の連続した一部の削除に代え、第2携帯端末演算処理装置211は、第2携帯端末記憶装置212に記憶された未再生のデータパケット(音声データまたは動画データ)の全部を削除してもよい。また、第2携帯端末演算処理装置211は、削除に代え、再生済みのラベルなどを付与することにより、当該データパケット(音声データまたは動画データ)を再生対象外としてもよい。
ここで、再生対象外とする未再生の音声データ又は動画データのサイズ又はデータ数は、再生時間にして1~5秒となるサイズ又はデータ数であることが好ましい。
また、これらに代えて又は加えて、第2携帯端末演算処理装置211は、未再生のデータパケットを早送り(STEP514の条件が充足されていない場合よりも速い再生速度)で再生する指示を第2装着端末220に送信してもよい。
STEP514の判定結果が否定的である場合(STEP514でNO)、第2携帯端末演算処理装置211は、第2携帯端末記憶装置212に記憶された未再生のデータパケットを第2携帯端末記憶装置212に記憶された時刻が早い順から読み出して第2装着端末220に送信し(STEP516)、STEP513の処理を実行する。
なお、第2携帯端末記憶装置212に記憶された時刻が、必ずしも音声データまたは動画データの再生順を示しているわけではない場合、第2携帯端末演算処理装置211は、データパケットのヘッダ等に含まれる時刻情報又は再生番号等を参照することにより、音声データまたは動画データの再生順を特定し、当該再生順にデータパケットを読み出して第2装着端末220に送信してもよい。
第2携帯端末210からデータパケットを受信した第2装着端末演算処理装置221は、それらのデータパケットに含まれる音声データ又は動画データを第2装着端末記憶装置222に記憶し(STEP522)、順に再生する(STEP523)。
第2装着端末演算処理装置221は、データパケットを受信する前にユーザから指定された音楽又は動画等を第2装着端末出力装置225で再生していてもよい。この場合、第2装着端末演算処理装置221は、データパケット受信をトリガーとして、当該音楽又は動画等を停止し、データパケットに含まれる音声データ又は動画データを再生してもよいし、音楽の音量を小さめに制御したり、動画の再生画面を小さめに制御した上で、データパケットに含まれる音声データ又は動画データを再生してもよい。
STEP515が本発明の「再生除外制御」に相当する。STEP516、STEP522及びSTEP523が本発明の「再生制御」及び「再生制御ステップ」に相当する。第2携帯端末演算処理装置211がSTEP516を実行し、第2装着端末演算処理装置221がSTEP522及びSTEP523を実行することにより、第2携帯端末演算処理装置211及び第2装着端末演算処理装置221が本発明の「再生制御手段」として機能する。
これらの一連の処理の作用について、図7Bを参照して時系列に沿って説明する。
図7Bは、上のグラフが第2サーバ320における時系列の未送信のデータの量を示すグラフであり、下のグラフが第2携帯端末210における時系列の未再生のデータの量を示すグラフである。いずれのグラフにおいても、縦軸がデータの量を示し、横軸が時間軸を示す。
また、図7Bのグラフにおいては、送信側端末(第1携帯端末110)と第2サーバ320との間の通信C11は安定していること、及び受信側端末(第2携帯端末210)で受信した音声データ又は動画データは逐次第2装着端末220に転送され、再生されることを前提とする。
期間t10~t11は、第2携帯端末210(受信側端末)と第2サーバ320との間の通信C21が安定している期間である。
この期間では、単位時間あたりに第2サーバ320が受信するデータ量S_In(byte/sec)と、単位時間当たりに第2サーバ320から第2携帯端末210へ送信されるデータ量S_Out(byte/sec)とが釣り合っている。このため、第2サーバ記憶装置322に記憶されている未送信のデータは、送信処理待ちのデータのみとなり、データの量はほぼ一定となる。
期間t10+Δt~t11+Δt(Δtは第2サーバ320と第2携帯端末210との間の通信にかかる微小な時間)の第2携帯端末210では、単位時間あたりに第2サーバ320から受信するデータ量C2_In(byte/sec)と、単位時間当たりに第2装着端末220へ送信されるデータ量(単位時間あたりに第2装着端末で再生されるデータ量)C2_Out(byte/sec)とが釣り合っている。このため、第2装着端末記憶装置222に記憶されている未再生のデータは転送処理待ちのデータのみとなり、データの量はほぼ一定となる。
期間t11~t12は、第2携帯端末210(受信側端末)と第2サーバ320との間の通信C21が悪化した期間である。
この期間の第2サーバ320では、単位時間あたりに第2サーバ320が受信するデータ量S_Inが、単位時間当たりに第2サーバ320から第2携帯端末210へ送信されるデータ量S_Outよりも大きくなる。このため、第2サーバ記憶装置322に記憶されている未送信のデータの量は漸増する。
また、この期間の第2携帯端末210では、単位時間あたりに第2サーバ320から受信するデータ量C2_Inが、単位時間当たりに第2装着端末220へ送信されるデータ量C2_Outよりも小さくなる。このため、第2携帯端末記憶装置212に記憶されている未再生のデータの量は漸減し、最終的にゼロとなる。
期間t12~t15は、第2携帯端末210(受信側端末)と第2サーバ320との間の通信C21が回復した期間である。
期間t12~t15の第2サーバ320では、単位時間あたりに第2サーバ320が受信するデータ量S_Inが、単位時間当たりに第2サーバ320から第2携帯端末210へ送信されるデータ量S_Outよりも小さくなる。このため、第2サーバ記憶装置322に記憶されている未送信のデータの量は漸減するが、ほぼ伝送遅延が解消され、処理中のデータが一時的に保存されるようになった期間t14~t15は、データ量はほぼ一定となる。
期間t12+Δt~t14+Δtの第2携帯端末210では、単位時間あたりに第2サーバ320から受信するデータ量C2_Inが、単位時間当たりに第2装着端末220へ送信されるデータ量C2_Outよりも大きくなる。このため、第2装着端末記憶装置222に記憶されている未再生のデータの量は漸増する。
時刻t13において、未再生のデータの量が第2サイズS2以上となると(STEP514でYES)、未再生のデータの連続した一部が削除され(STEP515)、未再生のデータ量が減少する。
期間t13~t14+Δtの第2携帯端末210においても、未再生のデータの量は漸増するが、ほぼ伝送遅延が解消され、処理中のデータが一時的に保存されるようになった期間t14+Δt~t15+Δtは、第2サーバ記憶装置322に記憶されている未再生のデータの量はほぼ一定となる。
第2サーバ320において、第1携帯端末110からの音声データ又は動画データの受信が終了すると(時刻t15)、第2サーバ演算処理装置321は、期間t15~t16において未送信のデータをすべて送信し、その後処理を停止する。
第2携帯端末演算処理装置211においては、第2サーバ演算処理装置321が未送信のデータの送信を完了するまでの期間t15+Δt~t16+Δt分の遅延が生じるものの、その後、期間t16+Δt~t17において未再生のデータをすべて第2装着端末220に再生させ、処理を停止する。
(本実施形態の作用効果)
本実施形態の第1通信システム100によれば、第1携帯端末記憶装置112に記憶された未送信の音声データ又は動画データが第1サイズ以上となることを要件として、当該未送信の音声データ又は動画データの全部が第1携帯端末記憶装置112から削除される。
本実施形態の第1通信システム100によれば、第1携帯端末記憶装置112に記憶された未送信の音声データ又は動画データが第1サイズ以上となることを要件として、当該未送信の音声データ又は動画データの全部が第1携帯端末記憶装置112から削除される。
この結果、比較的新しい音声データ又は動画データが送信され、再生されることとなるので、第2通信システム200のユーザに与えられるリアルタイム性が損なわれたとの違和感が解消又は軽減される。
また、本実施形態の第2通信システム200によれば、第2携帯端末記憶装置212に記憶された未再生の音声データ又は動画データが第2サイズ以上となることを要件として、当該未再生の音声データ又は動画データの全部が第2携帯端末記憶装置212から削除される。
この結果、比較的新しい音声データ又は動画データが再生されることとなるので、第2通信システム200のユーザに与えられるリアルタイム性が損なわれたとの違和感が解消又は軽減される。
(変形態様)
本実施形態では、第1携帯端末演算処理装置111が、第1携帯端末記憶装置112に記憶された音声データ又は動画データを、第1携帯端末通信装置113によりネットワークを介して第2携帯端末210に送信し、かつ、第1携帯端末記憶装置112に記憶された未送信の音声データ又は動画データのサイズ又はデータ数が所定のサイズ又は所定のデータ数以上であるという条件を充足している場合に、所定の遅延防止制御を実行した。
本実施形態では、第1携帯端末演算処理装置111が、第1携帯端末記憶装置112に記憶された音声データ又は動画データを、第1携帯端末通信装置113によりネットワークを介して第2携帯端末210に送信し、かつ、第1携帯端末記憶装置112に記憶された未送信の音声データ又は動画データのサイズ又はデータ数が所定のサイズ又は所定のデータ数以上であるという条件を充足している場合に、所定の遅延防止制御を実行した。
これに加えて又は代えて、第2サーバ演算処理装置321が、第2サーバ記憶装置322に記憶された音声データ又は動画データを、第2サーバ通信装置323によりネットワークを介して第2携帯端末210に送信し、かつ、第2サーバ記憶装置322に記憶された未送信の音声データ又は動画データのサイズ又はデータ数が所定のサイズ又はデータ数以上であるという条件を充足している場合に、本実施形態と同様の所定の遅延防止制御を実行してもよい。
この場合、第2サーバ通信装置323が、本発明の「送信側通信部」及び「送信側受付部」に相当し、第2サーバ演算処理装置321が本発明の「送信側演算処理部」に相当し、第2サーバ記憶装置322が本発明の「送信側記憶部」に相当する。
100‥第1通信システム、110‥第1携帯端末、111‥第1携帯端末演算処理装置、112‥第1携帯端末記憶装置、113‥第1携帯端末通信装置、114‥第1携帯端末入力装置、115‥第1携帯端末出力装置、120‥第1装着端末、121‥第1装着端末演算処理装置、122‥第1装着端末記憶装置、123‥第1装着端末通信装置、124‥第1装着端末入力装置、125‥第1装着端末出力装置、200‥第2通信システム、210‥第2携帯端末、211‥第2携帯端末演算処理装置、212‥第2携帯端末記憶装置、213‥第2携帯端末通信装置、214‥第2携帯端末入力装置、215‥第2携帯端末出力装置、220‥第2装着端末、221‥第2装着端末演算処理装置、222‥第2装着端末記憶装置、223‥第2装着端末通信装置、224‥第2装着端末入力装置、225‥第2装着端末出力装置、300‥中継サーバ群、310‥第1サーバ、311‥第1サーバ演算処理装置、312‥第1サーバ記憶装置、313‥第1サーバ通信装置、320‥第2サーバ、321‥第2サーバ演算処理装置、322‥第2サーバ記憶装置、323‥第2サーバ通信装置、400‥配信サーバ、401‥配信サーバ演算処理装置、402‥配信サーバ記憶装置、403‥配信サーバ通信装置。
Claims (14)
- 外部と通信する受信側通信部と、演算処理をする受信側演算処理部と、情報を記憶する受信側記憶部と、音声データ又は動画データを再生する受信側出力部とを備える受信システムであって、
前記受信側演算処理部は、
前記受信側通信部を用いてネットワークを介して外部から受信した音声データ又は動画データを前記受信側記憶部に記憶する受信側記憶制御と、
前記受信側記憶部に記憶された前記音声データ又は前記動画データを前記受信側出力部で再生させる再生制御と、
前記受信側記憶部に記憶された未再生の音声データ又は動画データのサイズ又はデータ数を検出する受信側検出制御とを実行することを特徴とする受信システム。 - 請求項1記載の受信システムにおいて、
前記受信側演算処理部は、
前記受信側検出制御の検出結果に基づき、前記未再生の音声データ又は動画データの全部又は連続した一部を前記再生制御による再生の対象外とする再生除外制御を実行することを特徴とする受信システム。 - 請求項2記載の受信システムにおいて、
前記再生除外制御は、再生時間にして1~5秒分の連続した前記未再生の音声データ又は動画データを前記再生制御による再生の対象外とする制御を含むことを特徴とする受信システム。 - 請求項2又は3記載の受信システムにおいて、
前記再生除外制御は、前記受信側検出制御により検出された前記未再生の音声データ又は動画データのサイズ又はデータ数が所定のサイズ又はデータ数以上である場合に、前記未再生の音声データ又は動画データの全部又は連続した一部を前記再生制御による再生の対象外とする制御を含むことを特徴とする受信システム。 - 請求項1~4のうちいずれか1項に記載の受信システムにおいて、
前記再生制御は、
前記受信側検出制御により検出された未再生の音声データ又は動画データのサイズ又はデータ数が所定のサイズ又はデータ数以上であるという条件を充足している場合に、前記条件を充足していない場合よりも、前記未再生の音声データ又は動画データの全部又は連続した一部の再生速度を速くする制御を含むことを特徴とする。 - 請求項1~5のうちいずれか1項に記載の受信システムにおいて、
前記再生制御は、前記音声データ又は前記動画データを前記受信側記憶部に保持された時刻が早いデータから先に読み出して、前記受信側出力部で再生させる制御を含むことを特徴とする受信システム。 - 請求項1~5のうちいずれか1項に記載の受信システムにおいて、
前記再生制御は、前記受信側通信部で受信された前記音声データ又は前記動画データを、当該音声データ又は前記動画データに含まれる再生順を示すデータに従って再配列して前記受信側出力部で再生させる制御を含むことを特徴とする受信システム。 - 外部と通信する受信側通信部と、演算処理をする受信側演算処理部と、情報を記憶する受信側記憶部と、音声データ又は動画データを再生する受信側出力部とを備える受信システムの前記受信側演算処理部が実行する方法であって、
前記受信側通信部を用いてネットワークを介して外部から受信した音声データ又は動画データを前記受信側記憶部に記憶する受信側記憶制御ステップと、
前記受信側記憶部に記憶された前記音声データ又は前記動画データを前記受信側出力部で再生させる再生制御ステップと、
前記受信側記憶部に記憶された未再生の音声データ又は動画データのサイズ又はデータ数を検出する受信側検出制御ステップとを含むことを特徴とする受信方法。 - 外部と通信する受信側通信部と、演算処理をする受信側演算処理部と、情報を記憶する受信側記憶部と、音声データ又は動画データを再生する受信側出力部とを備える受信システムの前記受信側演算処理部を、
前記受信側通信部を用いてネットワークを介して外部から受信した音声データ又は動画データを前記受信側記憶部に記憶する受信側記憶制御手段、
前記受信側記憶部に記憶された前記音声データ又は前記動画データを前記受信側出力部で再生させる再生制御手段、及び
前記受信側記憶部に記憶された未再生の音声データ又は動画データのサイズ又はデータ数を検出する受信側検出制御手段として機能させることを特徴とする通信制御プログラム。 - 請求項9記載の通信制御プログラムを記憶する配信サーバ記憶部と、外部と通信する配信サーバ通信部と、前記通信制御プログラムを前記配信サーバ通信部によりネットワークを介して前記外部に配信する配信サーバ演算処理部とを備える配信サーバ。
- 外部と通信する送信側通信部と、演算処理をする送信側演算処理部と、情報を記憶する送信側記憶部と、音声データ又は動画データの入力又は受信を受け付ける送信側受付部とを備える送信システムであって、
前記送信側演算処理部は、
前記送信側受付部を介して受け付けた前記音声データ又は前記動画データを前記送信側記憶部に記憶する送信側記憶制御と、
前記送信側記憶部に記憶された前記音声データ又は前記動画データを前記送信側通信部によりネットワークを介して他の端末に送信する送信制御と、
前記送信側記憶部に記憶された未送信の音声データ又は動画データのサイズ又はデータ数を検出する送信側検出制御とを実行することを特徴とする送信システム。 - 請求項11記載の送信システムにおいて、
前記送信側演算処理部は、
前記送信側検出制御の検出結果に基づき、前記未送信の音声データ又は動画データの全部又は連続した一部を前記送信制御による送信の対象外とする送信除外制御を実行することを特徴とする送信システム。 - 外部と通信する送信側通信部と、演算処理をする送信側演算処理部と、情報を記憶する送信側記憶部と、音声データ又は動画データの入力又は受信を受け付ける送信側受付部とを備える送信システムの前記送信側演算処理部が実行する方法であって、
前記送信側受付部を介して受け付けた前記音声データ又は前記動画データを前記送信側記憶部に記憶する送信側記憶制御ステップと、
前記送信側記憶部に記憶された前記音声データ又は前記動画データを前記送信側通信部によりネットワークを介して他の端末に送信する送信制御ステップと、
前記送信側記憶部に記憶された未送信の音声データ又は動画データのサイズ又はデータ数を検出する送信側検出制御ステップとを含むことを特徴とする送信方法。 - 外部と通信する送信側通信部と、演算処理をする送信側演算処理部と、情報を記憶する送信側記憶部と、音声データ又は動画データの入力又は受信を受け付ける送信側受付部とを備える送信システムの前記送信側演算処理部を、
前記送信側受付部を介して受け付けた前記音声データ又は前記動画データを前記送信側記憶部に記憶する送信側記憶制御手段、
前記送信側記憶部に記憶された前記音声データ又は前記動画データを前記送信側通信部によりネットワークを介して他の端末に送信する送信制御手段、及び
前記送信側記憶部に記憶された未送信の音声データ又は動画データのサイズ又はデータ数を検出する送信側検出制御手段として機能させることを特徴とする通信制御プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2015/070881 WO2017013776A1 (ja) | 2015-07-22 | 2015-07-22 | 受信システム、送信システム、受信方法、送信方法、通信制御プログラム及び配信サーバ |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2015/070881 WO2017013776A1 (ja) | 2015-07-22 | 2015-07-22 | 受信システム、送信システム、受信方法、送信方法、通信制御プログラム及び配信サーバ |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2017013776A1 true WO2017013776A1 (ja) | 2017-01-26 |
Family
ID=57834084
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2015/070881 WO2017013776A1 (ja) | 2015-07-22 | 2015-07-22 | 受信システム、送信システム、受信方法、送信方法、通信制御プログラム及び配信サーバ |
Country Status (1)
Country | Link |
---|---|
WO (1) | WO2017013776A1 (ja) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000295286A (ja) * | 1999-04-08 | 2000-10-20 | Nippon Telegr & Teleph Corp <Ntt> | リアルタイム音声通信用バッファ制御法及び装置 |
JP2003204361A (ja) * | 2002-01-08 | 2003-07-18 | Matsushita Electric Ind Co Ltd | 復号化装置および符号化装置 |
JP2004356695A (ja) * | 2003-05-27 | 2004-12-16 | Sony Corp | データ配信システムおよびデータ配信方法、ならびにデータ受信装置およびデータ受信方法 |
WO2008096809A1 (ja) * | 2007-02-08 | 2008-08-14 | Ntt Docomo, Inc. | 通信端末、管理装置、通信システムおよびプログラム |
JP2014011636A (ja) * | 2012-06-29 | 2014-01-20 | Canon Inc | 送信装置、送信方法、及びプログラム |
-
2015
- 2015-07-22 WO PCT/JP2015/070881 patent/WO2017013776A1/ja active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000295286A (ja) * | 1999-04-08 | 2000-10-20 | Nippon Telegr & Teleph Corp <Ntt> | リアルタイム音声通信用バッファ制御法及び装置 |
JP2003204361A (ja) * | 2002-01-08 | 2003-07-18 | Matsushita Electric Ind Co Ltd | 復号化装置および符号化装置 |
JP2004356695A (ja) * | 2003-05-27 | 2004-12-16 | Sony Corp | データ配信システムおよびデータ配信方法、ならびにデータ受信装置およびデータ受信方法 |
WO2008096809A1 (ja) * | 2007-02-08 | 2008-08-14 | Ntt Docomo, Inc. | 通信端末、管理装置、通信システムおよびプログラム |
JP2014011636A (ja) * | 2012-06-29 | 2014-01-20 | Canon Inc | 送信装置、送信方法、及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9479728B2 (en) | Video SMS message sending and receiving methods and apparatuses thereof, and handheld electronic device | |
JP6257597B2 (ja) | 複数のチャネルを通してサービスすることによる故障率の制限 | |
CN107297074B (zh) | 游戏视频录制方法、终端及存储介质 | |
US9626985B2 (en) | Audio processing method and apparatus | |
CN111837399B (zh) | 一种用于同步媒体内容的回放方法、服务器和介质 | |
CN106789562B (zh) | 一种虚拟物品发送方法、接收方法、装置和系统 | |
US20140149859A1 (en) | Multi device pairing and sharing via gestures | |
CN104335557A (zh) | 用于使用具有取决于用户接近度或设备位置的模式的移动设备进行群通信的系统和方法 | |
CN104521224A (zh) | 用于使用具有基于运动的模式转换的移动设备进行群通信的系统和方法 | |
CN104583893A (zh) | 基于移动设备的运动和基于语音命令来建立群通信的系统和方法 | |
CN108259988B (zh) | 一种视频播放控制方法、终端及计算机可读存储介质 | |
WO2015132767A1 (en) | Systems and methods for digital multimedia capture using haptic control, cloud voice changer, and protecting digital multimedia privacy | |
CN109088997B (zh) | 一种游戏音频控制方法、终端及计算机可读存储介质 | |
US20200028955A1 (en) | Communication system and api server, headset, and mobile communication terminal used in communication system | |
CN109157841B (zh) | 一种游戏组队方法、终端、服务器及计算机可读存储介质 | |
CN107317689B (zh) | 一种消息处理方法及电子设备、计算机存储介质 | |
CN110180181B (zh) | 精彩时刻视频的截图方法、装置及计算机可读存储介质 | |
TWI707237B (zh) | 信息發送方法、信息顯示方法、終端、伺服器、系統及儲存介質 | |
CN109104900A (zh) | 系统信息的传输方法、装置及计算机可读存储介质 | |
JP5047467B2 (ja) | 映像記録装置、映像記録システム、及び、映像記録方法 | |
EP2660680A1 (en) | System and method for enabling collaborative gesture-based sharing of ressources between devices | |
CN112423211A (zh) | 一种多音频传输控制方法、设备及计算机可读存储介质 | |
WO2017013776A1 (ja) | 受信システム、送信システム、受信方法、送信方法、通信制御プログラム及び配信サーバ | |
CN109831577B (zh) | 网络连接方法、终端以及计算机可读存储介质 | |
US11217253B2 (en) | Information processing apparatus, information processing method, and information processing system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 15898935 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
NENP | Non-entry into the national phase |
Ref country code: JP |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 15898935 Country of ref document: EP Kind code of ref document: A1 |