JP2020061615A - 電子機器及び通信方法並びにプログラム - Google Patents
電子機器及び通信方法並びにプログラム Download PDFInfo
- Publication number
- JP2020061615A JP2020061615A JP2018190166A JP2018190166A JP2020061615A JP 2020061615 A JP2020061615 A JP 2020061615A JP 2018190166 A JP2018190166 A JP 2018190166A JP 2018190166 A JP2018190166 A JP 2018190166A JP 2020061615 A JP2020061615 A JP 2020061615A
- Authority
- JP
- Japan
- Prior art keywords
- image
- user
- users
- display
- azimuth
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 55
- 238000004891 communication Methods 0.000 title claims description 25
- 230000005540 biological transmission Effects 0.000 claims abstract description 96
- 238000003384 imaging method Methods 0.000 claims abstract description 44
- NJPPVKZQTLUDBO-UHFFFAOYSA-N novaluron Chemical group C1=C(Cl)C(OC(F)(F)C(OC(F)(F)F)F)=CC=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F NJPPVKZQTLUDBO-UHFFFAOYSA-N 0.000 claims description 7
- 238000001514 detection method Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 6
- 230000010365 information processing Effects 0.000 description 3
- 238000009434 installation Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
【課題】ユーザの移動追跡機能を向上させることを目的とする。【解決手段】電子機器は、水平面内において全方位360度を撮像可能な撮像装置4と、撮像装置4によって撮像された360度画像において、一または複数のユーザを特定するユーザ特定部21と、特定されたユーザの位置に基づいて、360度画像のうちユーザを含めるために切り取る角度領域を算出し、送信画像を生成する画像生成部22と、送信画像を相手先に送信する送信部23と、送信画像を受信する受信部25と、水平面内における方位360度に対して表示可能な表示画面を有する表示装置5と、ユーザ特定部21によって特定されたユーザの方位に対応する表示画面の表示領域に送信画像を表示させる表示制御部26とを備える。【選択図】図4
Description
本発明は、電子機器及び通信方法並びにプログラムに関するものである。
近年、ノートPC、タブレット、携帯電話機等の情報処理装置に搭載されているカメラ機能を用いたテレビ電話やテレビビデオチャットなどが一般的に行われるようになってきた。例えば、特許文献1には、撮像画面におけるユーザの頭部、頸部および肩の位置を識別することによりユーザの動きを追跡し、ユーザが多少移動したとしても、通信相手側の表示画面の中央部にユーザの顔を表示させることのできる技術が開示されている。
しかしながら、特許文献1に開示されている追跡方法では、ユーザが情報処理装置の撮像エリアを外れて移動した場合には、ユーザの動きをそれ以上追跡することができず、ユーザの画像情報を通信相手の情報処理装置に対して送信することができなかった。
本発明は、このような事情に鑑みてなされたものであって、ユーザの移動追跡範囲を拡張でき、安定したユーザ画像を送信することのできる電子機器及び通信方法並びにプログラムを提供することを目的とする。
本発明の第一態様は、水平面内において全方位360度を撮像可能な撮像装置と、前記撮像装置によって撮像された360度画像において、一または複数のユーザを特定するユーザ特定部と、特定された前記ユーザの位置に基づいて、前記360度画像のうち前記ユーザを含めるために切り取る角度領域を算出し、送信画像を生成する画像生成部と、前記送信画像を相手先に送信する送信部とを具備する電子機器である。
本発明の第二態様は、台座部と、台座部上に支持される本体部と、本体部に設けられた表示装置と、本体部の上部に設けられた撮像装置とを具備し、前記表示装置は、前記本体部の上下方向における中心軸線まわりの方位360度に対して表示可能な表示画面を有し、前記撮像装置は、前記中心軸線まわりの方位360度における画像を取得可能とされている電子機器である。
本発明の第三態様は、水平面内において全方位360度を撮像することにより360度画像を取得する工程と、前記360度画像において、一または複数のユーザを特定する工程と、特定された前記ユーザの位置に基づいて、前記360度画像のうち前記ユーザを含めるために切り取る角度領域を算出し、送信画像を生成する工程と、前記送信画像を相手先に送信する工程とを有する通信方法である。
本発明の第四態様は、水平面内において全方位360度を撮像することにより360度画像を取得する処理と、前記360度画像において、一または複数のユーザを特定する処理と、特定された前記ユーザの位置に基づいて、前記360度画像のうち前記ユーザを含めるために切り取る角度領域を算出し、送信画像を生成する処理と、前記送信画像を相手先に送信する処理とをコンピュータに実行させるための通信プログラムである。
本発明の上記態様によれば、ユーザの移動追跡範囲を拡張でき、安定したユーザ画像を送信することができる。
以下に、本発明の一実施形態に係る電子機器及び通信方法並びにプログラムについて図面を参照して説明する。
図1は、電子機器の概略外観図である。図1に示すように、電子機器1は、設置面に設置される台座部2と、台座部2上に支持される本体部3と、本体部の上部に設けられた撮像装置4とを備えている。
図1は、電子機器の概略外観図である。図1に示すように、電子機器1は、設置面に設置される台座部2と、台座部2上に支持される本体部3と、本体部の上部に設けられた撮像装置4とを備えている。
本体部3には、表示装置5と、スピーカ6と、マイク7とが設けられている。
表示装置5は、本体部3の上下方向における中心軸線まわりの全方位360度に対して表示可能な表示画面を有している。表示装置5は、例えば、全方位360度にわたって連続的に設けられた表示画面を有していてもよい。図2は、表示装置5の一構成例を模式的に示した図である。図2に示すように、表示装置5は、例えば、中心軸線Lを有する円筒状の本体部3の側面に沿って、柔軟性を有する表示画面8が取り付けられた構成とされていてもよい。表示装置5の一例として、有機EL(有機エレクトロルミネッセンス)等を用いたフレキシブルディスプレイが挙げられる。
表示装置5は、本体部3の上下方向における中心軸線まわりの全方位360度に対して表示可能な表示画面を有している。表示装置5は、例えば、全方位360度にわたって連続的に設けられた表示画面を有していてもよい。図2は、表示装置5の一構成例を模式的に示した図である。図2に示すように、表示装置5は、例えば、中心軸線Lを有する円筒状の本体部3の側面に沿って、柔軟性を有する表示画面8が取り付けられた構成とされていてもよい。表示装置5の一例として、有機EL(有機エレクトロルミネッセンス)等を用いたフレキシブルディスプレイが挙げられる。
また、本体部3の形状は円筒状に限定されず、多面体であってもよく、本体部3の各側面に表示画面がそれぞれ設けられていても良い。この場合、隣接する表示画面は隙間なく設けられていることが好ましい。
また、表示装置5は、例えば、一または複数の表示画面を有し、この表示画面が上述の中心軸線(換言すると、設置面に垂直な回転軸線)回りに回転することにより、水平面内における全方位360度に向けて表示が可能な構成とされていてもよい。
また、表示装置5は、例えば、一または複数の表示画面を有し、この表示画面が上述の中心軸線(換言すると、設置面に垂直な回転軸線)回りに回転することにより、水平面内における全方位360度に向けて表示が可能な構成とされていてもよい。
撮像装置4は、水平面内において全方位360度を撮像可能な構成を備える。例えば、撮像装置として、全天球画像を撮像する全天球カメラを採用することができる。また、撮像装置4は、例えば、画角が360度以下のカメラを本体部3の中心軸線L(換言すると、設置面に対して垂直な回転軸線)回りに回転させることにより複数のフレーム画像を取得し、複数のフレーム画像を連続的につなげることにより全方位360度のパノラマ画像を取得する撮像装置であってもよい。このように、撮像装置4は少なくとも水平面内の全方位360度の画像を取得できる構成とされていればよく、その取得手法やレンズ構成については特に限定されない。
また、撮像装置4は、水平面内における全方位360度に加えて、上下方向(水平面に直交する面)に対する角度(ティルト角)を変化させた画像についても取得できるとよい。このように、上下方向の画像を取得することで、ユーザが水平移動した場合だけでなく、立ったり座ったりするユーザの上下動についても追跡することができ、ユーザの動きに対する追跡範囲を更に拡張させることができる。
また、撮像装置4は、水平面内における全方位360度に加えて、上下方向(水平面に直交する面)に対する角度(ティルト角)を変化させた画像についても取得できるとよい。このように、上下方向の画像を取得することで、ユーザが水平移動した場合だけでなく、立ったり座ったりするユーザの上下動についても追跡することができ、ユーザの動きに対する追跡範囲を更に拡張させることができる。
図3は、本発明の一実施形態に係る電子機器のハードウェアの概略構成を示した図である。図3に示すように、電子機器1は、例えば、制御部20、撮像装置4、表示装置5、スピーカ6、マイク7、及び通信デバイス15を主な構成として備えている。これら各部はバス18を介して接続されている。
制御部20は、例えば、CPU11、CPU11が実行するプログラム等を記憶するためのROM(Read Only Memory)12、及び各プログラム実行時のワーク領域として機能するRAM(Random Access Memory)13等を備えている。なお、CPU11が実行するプログラム等を記憶するための記憶媒体は、フラッシュメモリなどであってもよく、一例として、磁気ディスク、光磁気ディスク、半導体メモリ等の他の補助記憶装置であってもよい。
撮像装置4は、上述したように、水平面内における全方位360度にわたって周辺の画像を取得する。なお、撮像装置4は、水平面内だけでなく、垂直面内における所定画角の画像を取得可能に構成されていてもよい。これにより、ユーザの水平方向における移動だけでなく、上下方向に対する移動についても追従することができ、追跡範囲を更に拡張させることができる。
表示装置5は、上述したように、例えば、液晶ディスプレイ、ELディスプレイなどであり、制御部20からの制御データに基づく表示を行う。マイク7、スピーカ6については公知の構成であるため、詳細な説明は省略する。
通信デバイス15は、例えば、ネットワークに接続するための通信インターフェースを備え、3GやLTE、5G回線を含むワイヤレスネットワークや、有線/無線LAN等のネットワークに接続し、他のデバイスとの通信を確立させ、情報の相互通信(例えば、ビデオチャットやテレビ電話等)を実現させる。
次に、電子機器1の制御部20によって実現される各種機能について説明する。図4は、本発明の一実施形態に係る電子機器1の制御部20が備える機能の一例を示した機能ブロック図である。
後述する各部の機能を実現するための一連の処理は、一例として、プログラム(例えば、通信プログラム)の形式でROM12等の記憶装置に記憶されており、このプログラムをCPU11がRAM13に読み出して、情報の加工・演算処理を実行することにより、各種機能が実現される。なお、プログラムは、ROM12に予めインストールされている形態や、他のコンピュータ読み取り可能な記憶媒体に記憶された状態で提供される形態、有線又は無線による通信手段を介して配信される形態等が適用されてもよい。コンピュータ読み取り可能な記憶媒体とは、磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等である。
図4に示すように、制御部20は、ユーザ特定部21と、画像生成部22と、送信部23と、受信部25と、表示制御部26とを備えている。
ユーザ特定部21は、例えば、撮像装置4によって撮像された水平面内における全方位360度のパノラマ画像(以下、「360度画像」という。)において、一または複数のユーザを特定する。ユーザの特定は、例えば、予めユーザの顔画像が登録されている場合には、撮像装置4によって取得された360度画像における人物画像と予め登録されているユーザの顔画像とを照合する照合処理を行い、ユーザを特定する。なお、複数のユーザが登録されている場合には、複数のユーザに関して照合処理を行う。
ユーザ特定部21は、例えば、撮像装置4によって撮像された水平面内における全方位360度のパノラマ画像(以下、「360度画像」という。)において、一または複数のユーザを特定する。ユーザの特定は、例えば、予めユーザの顔画像が登録されている場合には、撮像装置4によって取得された360度画像における人物画像と予め登録されているユーザの顔画像とを照合する照合処理を行い、ユーザを特定する。なお、複数のユーザが登録されている場合には、複数のユーザに関して照合処理を行う。
また、他の一例として、一般的に電子機器1を用いてテレビ電話などの対話を行う場合には、ユーザは電子機器1に近い位置から撮像装置4や表示装置5に視線を向けていることが多い。したがって、電子機器1から所定距離以内に存在し、かつ、顔が電子機器1に向いている人物をユーザとして特定してもよい。より具体的には、360度画像において、顔の領域が所定サイズ以上であり、両目が認識できる人物画像をユーザとして特定する。なお、上記のユーザ特定手法は一例であり、他の手法を用いてユーザ(話者)を特定することとしてもよい。
画像生成部22は、ユーザ特定部21によって特定されたユーザが含まれる所定領域の画像を用いて送信画像を生成する。例えば、画像生成部22は、図5に示すように、360度画像30において一人のユーザ(ユーザA)が特定された場合には、そのユーザの画像を含めるために切り取る角度領域を算出し、算出した角度領域の画像を切り取ることにより、送信画像35を生成する。
また、画像生成部22は、図6に示すように、360度画像30において、複数のユーザ(ユーザB及びユーザC)が特定された場合には、両ユーザ間の方位角度α’が予め設定されている第1閾値αref1未満であるか否かを判定する。そして、両ユーザ間の方位角度α’が予め設定されている第1閾値αref1以上であると判定した場合に、各ユーザを含むそれぞれの所定領域の画像を組み合わせて送信画像35を生成する。
また、画像生成部22は、複数のユーザ(ユーザB及びユーザC)が特定され、かつ、両ユーザ間の方位角度α’が第1閾値αref1未満であると判定した場合に、複数のユーザを含む所定領域の画像(例えば、図13の画像35de)を用いて送信画像を生成する。
また、画像生成部22は、複数のユーザ(ユーザB及びユーザC)が特定され、かつ、両ユーザ間の方位角度α’が第1閾値αref1未満であると判定した場合に、複数のユーザを含む所定領域の画像(例えば、図13の画像35de)を用いて送信画像を生成する。
送信部23は、画像生成部22によって生成された送信画像を相手先に送信する。
なお、画像生成部22は、図6に示すように、360度画像30において、両ユーザ間の方位角度α’が第1閾値αref1以上であると判定した場合には、各ユーザを含むそれぞれの所定領域の画像を個別に送信先に送信し、送信先において、これら複数の画像をつなぎ合わせることにより、複数ユーザが含まれる表示画像を生成することとしてもよい。このように、複数の画像をつなぎ合わせる処理については、画像生成部22において行っても良いし、送信先の電子機器において行うこととしても良い。
なお、画像生成部22は、図6に示すように、360度画像30において、両ユーザ間の方位角度α’が第1閾値αref1以上であると判定した場合には、各ユーザを含むそれぞれの所定領域の画像を個別に送信先に送信し、送信先において、これら複数の画像をつなぎ合わせることにより、複数ユーザが含まれる表示画像を生成することとしてもよい。このように、複数の画像をつなぎ合わせる処理については、画像生成部22において行っても良いし、送信先の電子機器において行うこととしても良い。
受信部25は、相手先から送信された送信画像を受信する。
表示制御部26は、ユーザ特定部21によって特定されたユーザの方位に対応する表示装置5の表示画面に送信画像を表示させる。
例えば、表示制御部26は、表示装置5において、ユーザ特定部21によって特定された方位角度(基準方位とユーザが位置する方位とのなす角度であり、本実施形態では、時計回りを正(プラス)と定義する。)に対応する表示画面に送信画像35´を表示させる。例えば、図7に示すように、ユーザの方位角度が+αである場合には、表示装置5において基準方位から方位角度+αの表示画面に相手先から受信した送信画像を表示させる。
表示制御部26は、ユーザ特定部21によって特定されたユーザの方位に対応する表示装置5の表示画面に送信画像を表示させる。
例えば、表示制御部26は、表示装置5において、ユーザ特定部21によって特定された方位角度(基準方位とユーザが位置する方位とのなす角度であり、本実施形態では、時計回りを正(プラス)と定義する。)に対応する表示画面に送信画像35´を表示させる。例えば、図7に示すように、ユーザの方位角度が+αである場合には、表示装置5において基準方位から方位角度+αの表示画面に相手先から受信した送信画像を表示させる。
また、表示制御部26は、例えば、図8に示すように、ユーザ特定部21によって複数のユーザ(ユーザB、ユーザC)が特定された場合には、基準方位に対する各ユーザB、ユーザCの方位角度+α1、−α2に対応する表示画面に対して送信画像35´をそれぞれ表示させる。これにより、各ユーザB、ユーザCは移動することなく、通信相手の画像35’(動画)を見ながら通話をすることが可能となる。
なお、複数のユーザが特定された場合、ユーザ同士がなす角度α’(=α1+α2)が予め設定されている所定の第2閾値αref2未満である場合には、両ユーザは比較的近傍にいると認識することができる。この場合には、上述したように、それぞれのユーザの方位角度に応じて送信画像を表示させる態様に代えて、両ユーザの方位角度α’(=α1+α2)に応じた位置に送信画像を表示させることとしてもよい。
ここで、両ユーザの方位角度α’に応じた位置とは、例えば、いずれか一方のユーザの方位角度を採用しても良いし、両ユーザの方位角度α’の中間角度(すなわち、α’/2の方位角度)を採用してもよいし、ユーザの重要度に応じた重み付け係数を用いた加重平均等を採用してもよい。
また、上記第2閾値αref2は、上述した第1閾値αref1と同一であってもよいし、異なる値を用いることとしてもよい。例えば、第2閾値αref2は、一つの表示画面を視認可能な方位角度範囲に基づいて決定される。
また、上記第2閾値αref2は、上述した第1閾値αref1と同一であってもよいし、異なる値を用いることとしてもよい。例えば、第2閾値αref2は、一つの表示画面を視認可能な方位角度範囲に基づいて決定される。
次に、本発明の一実施形態に係る電子機器1を用いて行われる通信方法について図9及び図10を参照して説明する。図9は、本実施形態に係る通信方法における送信方法の手順を主に示したフローチャート、図10は本実施形態に係る通信方法における受信方法の手順を主に示したフローチャートである。
まず、図9を参照して送信方法について説明する。
まず、撮像装置4によって撮像された360度画像を取得する(SA1)。続いて、360度画像においてユーザを特定し、基準方位に対するユーザの方位角度を取得する(SA2)。これにより、基準方位に対してユーザがどの方位角度に位置するかを把握することができる。
続いて、特定されたユーザが一人か否かを判定する(SA3)。この結果、ユーザが一人であれば(SA3:YES)、ユーザを含む所定領域の画像を切り取ることにより送信画像を生成する(SA4)。
まず、撮像装置4によって撮像された360度画像を取得する(SA1)。続いて、360度画像においてユーザを特定し、基準方位に対するユーザの方位角度を取得する(SA2)。これにより、基準方位に対してユーザがどの方位角度に位置するかを把握することができる。
続いて、特定されたユーザが一人か否かを判定する(SA3)。この結果、ユーザが一人であれば(SA3:YES)、ユーザを含む所定領域の画像を切り取ることにより送信画像を生成する(SA4)。
一方、ステップSA3において、ユーザが一人でないと判定した場合、両ユーザ間の方位角度(ユーザ同士がなす角度)α’が予め設定されている第1閾値αref1未満であるか否かを判定する(SA5)。この結果、ユーザ間の方位角度α’が予め設定されている第1閾値αref1未満である場合には、複数のユーザを含む所定領域を360度画像から切り出して送信画像を生成する(SA6)。これに対し、ステップSA5において、ユーザ間の方位角度α’が第1閾値αref1以上であると判定した場合には(SA5:NO)、複数のユーザを所定領域の画像内に収めることができないため、各ユーザを含む所定領域の画像をそれぞれ切り出し(SA7)、切り出した画像を組み合わせて、より具体的には、つなぎ合わせることにより送信画像を生成する(SA8)。このようにして、送信画像を生成すると、送信画像を相手先へ送信する(SA9)。
そして、上記処理を繰り返し行うことにより、連続的にユーザの画像が相手先の通信装置に対して送信されることとなり、相手先の表示画面に動画として表示されることとなる。なお、当然ながら、上記送信画像とともにマイク7から入力された音声データが送信される。これにより、相手側のユーザは当該ユーザから送信された送信画像を見ながら会話を行うことができる。
なお、ユーザの方位角度の特定については、毎回の処理で行う必要はない。例えば、ユーザの方位角度が一旦特定された以降については、前回取得された360度画像と今回取得された360度画像とを比較することにより、ユーザが移動したか否かを判定し、移動していなければ、前回と同様の処理を実行することにより(例えば、所定領域におけるユーザ画像を切り取ることによって)、送信画像を生成することとしてもよい。このようにすることで、処理を簡素化することが可能となる。なお、ユーザの位置が移動していた場合には、上述したように、ステップSA2以降の処理を行えばよい。
次に、図10を参照して受信方法について説明する。
まず、相手先から送信された送信画像を受信する(SB1)。続いて、基準方位に対するユーザの方位角度を取得する(SB2)。基準方位に対するユーザの方位角度は、例えば、上述した送信方法のステップSA2において得られた情報を流用すればよい。すなわち、撮像装置4によって得られた360度画像におけるユーザの検出位置に基づいてユーザの方位角度が取得される。
続いて、ユーザが一人か否かを判定する(SB3)。この結果、ユーザが一人であれば(SB3:YES)、ユーザの方位角度に対応する表示画面に送信画像を表示させる(SB4)。
まず、相手先から送信された送信画像を受信する(SB1)。続いて、基準方位に対するユーザの方位角度を取得する(SB2)。基準方位に対するユーザの方位角度は、例えば、上述した送信方法のステップSA2において得られた情報を流用すればよい。すなわち、撮像装置4によって得られた360度画像におけるユーザの検出位置に基づいてユーザの方位角度が取得される。
続いて、ユーザが一人か否かを判定する(SB3)。この結果、ユーザが一人であれば(SB3:YES)、ユーザの方位角度に対応する表示画面に送信画像を表示させる(SB4)。
一方、ステップSB3において、ユーザが一人でないと判定した場合、両ユーザ間の方位角度(ユーザ同士がなす角度)α’が予め設定されている第2閾値αref2未満であるか否かを判定する(SB5)。この結果、ユーザ間の方位角度α’が予め設定されている第2閾値αref2未満である場合には、両ユーザの方位角度に基づく位置の表示画面に送信画像を表示させる(SB6)。これに対し、ステップSB5において、ユーザ間の方位角度α’が第2閾値αref2以上であると判定した場合には(SB5:NO)、各ユーザの方位角度に対応する表示画面に送信画像を表示させる(SB7)。
そして、そして、上記処理を繰り返し行うことにより、ユーザの位置を常に追跡でき、ユーザがいる方位に対して送信画像を表示させることが可能となる。
なお、当然ながら、受信部25は送信画像と共にマイク7から入力された音声データを受信する。したがって、相手側から受信した送信画像が動画として表示装置5に表示されるとともに、相手側から受信した音声データがスピーカ6から出力されることとなる。
なお、当然ながら、受信部25は送信画像と共にマイク7から入力された音声データを受信する。したがって、相手側から受信した送信画像が動画として表示装置5に表示されるとともに、相手側から受信した音声データがスピーカ6から出力されることとなる。
なお、ユーザの方位角度の特定については、毎回の処理で行う必要はない。例えば、ユーザの方位角度が一旦特定された以降については、前回取得された360度画像と今回取得された360度画像とを比較することにより、ユーザが移動したか否かを判定し、移動していなければ、前回と同様の処理、すなわち、同じ方位角度の表示画面に対して送信画像を表示させることとしてもよい。このようにすることで、処理を簡素化することが可能となる。なお、ユーザの位置が移動していた場合には、上述したように、ステップSB2以降の処理を行えばよい。
次に、本実施形態に係る複数の電子機器1をネットワークを介して接続し、通信を行う場合の各電子機器1において取得される360度画像と、表示装置5における表示例について具体例を挙げて説明する。
なお、以下の説明では、図11に示すように、電子機器1aと、電子機器1bとをネットワーク50を介して接続し、互いに通信を実現する場合について説明する。
なお、以下の説明では、図11に示すように、電子機器1aと、電子機器1bとをネットワーク50を介して接続し、互いに通信を実現する場合について説明する。
図12は、電子機器1a側にユーザAが、電子機器1b側に二人のユーザB及びユーザCがおり、電子機器1a、1bを用いてそれぞれ通話を行う場合の送信画像の一例及び表示画面の一表示例を模式的に示した図である。
図12に示すように、電子機器1a側では、ユーザはユーザAのみであるため、撮像装置4によって取得された360度画像において、ユーザAの画像を含む所定領域が切り取られることにより送信画像35aが生成される。この送信画像35aはネットワークを介して電子機器1bに送信される。
電子機器1bでは、2人のユーザの位置(基準方位に対する各ユーザB,Cの方位角度)が特定される。また、両者間の方位角度α’は第2閾値αref2以上であるので、それぞれのユーザB、ユーザCの方位角度に対応する表示画面に対して電子機器1aから受信した送信画像35aがそれぞれ表示される。
図12に示すように、電子機器1a側では、ユーザはユーザAのみであるため、撮像装置4によって取得された360度画像において、ユーザAの画像を含む所定領域が切り取られることにより送信画像35aが生成される。この送信画像35aはネットワークを介して電子機器1bに送信される。
電子機器1bでは、2人のユーザの位置(基準方位に対する各ユーザB,Cの方位角度)が特定される。また、両者間の方位角度α’は第2閾値αref2以上であるので、それぞれのユーザB、ユーザCの方位角度に対応する表示画面に対して電子機器1aから受信した送信画像35aがそれぞれ表示される。
同様に、電子機器1b側では、撮像装置4によって取得された360度画像30bにおいて、ユーザBとユーザCとが特定され、両者の間の方位角度α’が取得される。この方位角度α’は第1閾値αref1よりも大きいので、ユーザBを含む所定領域の画像35b及びユーザCを含む所定領域の画像35cがそれぞれ切り取られ、これらに基づいて送信画像35bcが作成され、電子機器1aに送信される。電子機器1aでは、ユーザAの位置、すなわち、基準方位に対するユーザAの方位角度の表示画面に対して電子機器1aから受信した送信画像35bcが表示される。
なお、複数のユーザがいる場合の送信画像については、送信元(電子機器1b側)において各ユーザの画像35b、35cが組み合わされた送信画像35bcが生成されてもよいし、送信先(電子機器1a)において送信元から個別に送信されてきた各送信画像35b、35cを組み合わせて一つの画像35bcを生成することとしてもよい。図12では、送信先(電子機器1a側)において複数のユーザ画像35b、35cを組み合わせて一つの送信画像35bcを生成する場合について例示している。
また、図13は、電子機器1a側にユーザA、ユーザD、及びユーザEが、電子機器1b側に二人のユーザB及びユーザCがおり、電子機器1a、1bを用いてそれぞれ通話を行う場合の送信画像の一例及び表示画面の一表示例を模式的に示した図である。
図13に示すように、電子機器1a側では、撮像装置4によって取得された360度画像30aにおいて、ユーザA、ユーザD、及びユーザEがそれぞれ特定され、二者間の方位角度α’がそれぞれ取得される。この結果、ユーザDとユーザEとの間の方位角度α’は第1閾値αref1未満であるので、ユーザD及びユーザEを含む所定領域の画像35deが切り取られて送信画像35deが生成される。
一方、ユーザAとユーザDとの間の方位角度α’及びユーザAとユーザEとの間の方位角度α’はいずれも第1閾値αref1以上であるため、ユーザAを含む所定領域の画像35aが送信画像として生成される。生成された送信画像35a及び送信画像35deはネットワークを介して電子機器1bに送信される。
一方、ユーザAとユーザDとの間の方位角度α’及びユーザAとユーザEとの間の方位角度α’はいずれも第1閾値αref1以上であるため、ユーザAを含む所定領域の画像35aが送信画像として生成される。生成された送信画像35a及び送信画像35deはネットワークを介して電子機器1bに送信される。
電子機器1bでは、2人のユーザの位置(基準方位に対する各ユーザB,Cの方位角度)が特定される。また、両者間の方位角度α’は第2閾値αref2以上であるので、それぞれのユーザB、ユーザCの方位角度に対応する表示画面に対して電子機器1aから受信した送信画像35aと送信画像35deとが組み合わされた送信画像35adeがそれぞれ表示される。
同様に、電子機器1b側では、撮像装置4によって取得された360度画像30bにおいて、ユーザBとユーザCとが特定され、両者の間の方位角度α’が取得される。この方位角度α’は第1閾値αref1よりも大きいので、ユーザBを含む所定領域の画像35b及びユーザCを含む所定領域の画像35cがそれぞれ切り取られ、これらに基づいて送信画像35bcが作成され、電子機器1aに送信される。電子機器1aでは、ユーザAの位置とユーザDEの位置に対応する方位角度の表示画面に対して電子機器1aから受信した送信画像35bcがそれぞれ表示される。
以上、説明したように、本実施形態に係る電子機器1及び通信方法並びにプログラムによれば、水平面内において全方位360度を撮像可能な撮像装置4と、撮像装置4によって撮像された360度画像において、一または複数のユーザを特定するユーザ特定部21と、特定したユーザが含まれる所定領域の画像を用いて送信画像を生成する画像生成部22と、送信画像を相手先に送信する送信部23とを有する。
このように、水平面内において全方位360度を撮影可能な撮像装置4を備えるので、ユーザの追跡範囲を拡張することができ、ユーザの動きを見失うことなく追跡することが可能となる。これにより、相手先にユーザの画像(動画)を安定して提供することが可能となる。
このように、水平面内において全方位360度を撮影可能な撮像装置4を備えるので、ユーザの追跡範囲を拡張することができ、ユーザの動きを見失うことなく追跡することが可能となる。これにより、相手先にユーザの画像(動画)を安定して提供することが可能となる。
また、画像生成部22は、360度画像において複数のユーザが特定された場合に、ユーザ間の方位角度が予め設定されている閾値未満であるか否かを判定し、ユーザ間の方位角度が第1閾値未満であると判定した場合に、複数のユーザを含む所定領域の画像を用いて送信画像を生成する。また、画像生成部22は、ユーザ間の方位角度α’が第1閾値αref1以上であると判定した場合に、各ユーザを含むそれぞれの所定領域の画像を組み合わせて送信画像を生成する。そして、このようにして生成された送信画像が相手先に送信される。これにより、複数のユーザがいた場合でも、全てのユーザをある一定の所定領域内に収めた画像を相手先に提供することができる。この結果、相手先のユーザは、対話している全員のユーザの顔を確認しながら対話を楽しむことが可能となる。
また、本実施形態によれば、送信画像を受信する受信部25と、周囲のユーザを検出するユーザ検出部と、水平面内における方位360度に対して表示可能な表示画面を有する表示装置5と、ユーザが検出された方位に対応する表示画面の表示領域に送信画像を表示させる表示制御部26とを備える。なお、ユーザ検知部は、ユーザ特定部21からユーザの方位角度を取得してもよい。
これにより、ユーザの動きに追従して、ユーザによって常に視認可能な画像領域に対して相手先から受信した送信画像を表示させることができる。この結果、例えば、ユーザは自由に動きながら通話を楽しむことができる。また、離れた場所にいる複数のユーザが検出された場合には、各ユーザの位置に応じた表示画面にそれぞれ送信画像が表示されるので、各ユーザはそれぞれの送信画像を見ながら通話を楽しむことができる。
これにより、ユーザの動きに追従して、ユーザによって常に視認可能な画像領域に対して相手先から受信した送信画像を表示させることができる。この結果、例えば、ユーザは自由に動きながら通話を楽しむことができる。また、離れた場所にいる複数のユーザが検出された場合には、各ユーザの位置に応じた表示画面にそれぞれ送信画像が表示されるので、各ユーザはそれぞれの送信画像を見ながら通話を楽しむことができる。
以上、本発明について実施形態を用いて説明したが、本発明の技術的範囲は上記実施形態に記載の範囲には限定されない。発明の要旨を逸脱しない範囲で上記実施形態に多様な変更又は改良を加えることができ、該変更又は改良を加えた形態も本発明の技術的範囲に含まれる。また、上記実施形態を適宜組み合わせてもよい。
例えば、本実施形態に係る電子機器1は、水平面内において360度方位に対して表示可能な表示装置5を備えていたが、このような表示装置5に代えて通常の一方位に対して表示可能な表示装置を備えていても良い。このような態様では、ユーザの動きに追従した表示は行えないが、撮像装置4、ユーザ特定部21、画像生成部22、送信部23を備えていることで、ユーザが移動したとしても相手先に対して安定的にユーザの画像を提供することができるという効果を得ることができる。
また、撮像装置4についても必ずしも水平面内における全方位360度の撮像が可能である必要はない。例えば、撮像装置4に代えて、所定の画角に対する画像を取得することのできる一般的なカメラを搭載してもよい。また、この場合、画像処理によるユーザ位置の特定以外の手法を用いてユーザの位置を特定することができれば(ユーザ検出部)、ユーザの移動に応じた方位に対応する表示画面に相手先から受信した送信画像を表示させることができる。これにより、相手先にはユーザの画像を送信できない場合があるものの、相手先から受信した送信画像をユーザに対して安定的に提示することができるという効果は得ることができる。
また、上記実施形態で説明した通信方法に関する処理の流れも一例であり、本発明の主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよい。
1、1a、1b :電子機器
2 :台座部
3 :本体部
4 :撮像装置
5 :表示装置
6 :スピーカ
7 :マイク
8 :表示画面
11 :CPU
12 :ROM
13 :RAM
15 :通信デバイス
18 :バス
20 :制御部
21 :ユーザ特定部
22 :画像生成部
23 :送信部
25 :受信部
26 :表示制御部
50 :ネットワーク
2 :台座部
3 :本体部
4 :撮像装置
5 :表示装置
6 :スピーカ
7 :マイク
8 :表示画面
11 :CPU
12 :ROM
13 :RAM
15 :通信デバイス
18 :バス
20 :制御部
21 :ユーザ特定部
22 :画像生成部
23 :送信部
25 :受信部
26 :表示制御部
50 :ネットワーク
Claims (11)
- 水平面内において全方位360度を撮像可能な撮像装置と、
前記撮像装置によって撮像された360度画像において、一または複数のユーザを特定するユーザ特定部と、
特定された前記ユーザの位置に基づいて、前記360度画像のうち前記ユーザを含めるために切り取る角度領域を算出し、送信画像を生成する画像生成部と、
前記送信画像を相手先に送信する送信部と
を具備する電子機器。 - 前記画像生成部は、前記360度画像において複数のユーザが特定された場合に、ユーザ間の方位角度が予め設定されている閾値未満であるか否かを判定し、ユーザ間の方位角度が前記閾値未満であると判定した場合に、複数のユーザを含む所定領域の画像を用いて前記送信画像を生成する請求項1に記載の電子機器。
- 前記画像生成部は、ユーザ間の方位角度が前記閾値以上であると判定した場合に、各ユーザを含むそれぞれの所定領域の画像を組み合わせて前記送信画像を生成する請求項2に記載の電子機器。
- 相手先の画像を受信する受信部と、
周囲のユーザを検出するユーザ検出部と、
水平面内における方位360度に対して表示可能な表示画面を有する表示装置と、
ユーザが検出された方位に対応する前記表示画面の表示領域に前記相手先の画像を表示させる表示制御部と
を具備する請求項1から3のいずれか1項に記載の電子機器。 - 前記表示装置は、方位360度にわたって連続的に設けられた表示画面を有している請求項4に記載の電子機器。
- 前記表示装置は、前記水平面に対して垂直な軸線まわりに回転可能に設けられた1または複数の表示画面を有する請求項4に記載の電子機器。
- 台座部と、
台座部上に支持される本体部と、
本体部に設けられた表示装置と、
本体部の上部に設けられた撮像装置と
を具備し、
前記表示装置は、前記本体部の上下方向における中心軸線まわりの方位360度に対して表示可能な表示画面を有し、
前記撮像装置は、前記中心軸線まわりの方位360度における画像を取得可能とされている電子機器。 - 水平面内において全方位360度を撮像することにより360度画像を取得する工程と、
前記360度画像において、一または複数のユーザを特定する工程と、
特定された前記ユーザの位置に基づいて、前記360度画像のうち前記ユーザを含めるために切り取る角度領域を算出し、送信画像を生成する工程と、
前記送信画像を相手先に送信する工程と
を有する通信方法。 - 相手先の画像を受信する工程と、
周囲のユーザを検出する工程と、
水平面内における方位360度に対して表示可能な表示画面を有する表示装置において、ユーザが検出された方位に対応する前記表示画面の表示領域に前記相手先の画像を表示させる工程と
を有する請求項8に記載の通信方法。 - 水平面内において全方位360度を撮像することにより360度画像を取得する処理と、
前記360度画像において、一または複数のユーザを特定する処理と、
特定された前記ユーザの位置に基づいて、前記360度画像のうち前記ユーザを含めるために切り取る角度領域を算出し、送信画像を生成する処理と、
前記送信画像を相手先に送信する処理と
をコンピュータに実行させるための通信プログラム。 - 相手先の画像を受信する処理と、
周囲のユーザを検出する処理と、
水平面内における方位360度に対して表示可能な表示画面を有する表示装置において、ユーザが検出された方位に対応する前記表示画面の表示領域に前記相手先の画像を表示させる処理と
をコンピュータに実行させるための請求項10に記載の通信プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018190166A JP2020061615A (ja) | 2018-10-05 | 2018-10-05 | 電子機器及び通信方法並びにプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018190166A JP2020061615A (ja) | 2018-10-05 | 2018-10-05 | 電子機器及び通信方法並びにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020061615A true JP2020061615A (ja) | 2020-04-16 |
Family
ID=70219109
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018190166A Pending JP2020061615A (ja) | 2018-10-05 | 2018-10-05 | 電子機器及び通信方法並びにプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020061615A (ja) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008085930A (ja) * | 2006-09-29 | 2008-04-10 | Nec Engineering Ltd | テレビ会議装置 |
US20120075407A1 (en) * | 2010-09-28 | 2012-03-29 | Microsoft Corporation | Two-way video conferencing system |
US20170111595A1 (en) * | 2015-10-15 | 2017-04-20 | Microsoft Technology Licensing, Llc | Methods and apparatuses for controlling video content displayed to a viewer |
JP2017098592A (ja) * | 2015-11-18 | 2017-06-01 | 富士通株式会社 | コミュニケーション支援システム、サーバ装置及びプログラム |
US20180035049A1 (en) * | 2016-07-27 | 2018-02-01 | Shakil Hussain | Virtual presence device, system, and method |
US20180192001A1 (en) * | 2017-01-04 | 2018-07-05 | Intel Corporation | Rectilinear viewport extraction from a region of a wide field of view using messaging in video transmission |
-
2018
- 2018-10-05 JP JP2018190166A patent/JP2020061615A/ja active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008085930A (ja) * | 2006-09-29 | 2008-04-10 | Nec Engineering Ltd | テレビ会議装置 |
US20120075407A1 (en) * | 2010-09-28 | 2012-03-29 | Microsoft Corporation | Two-way video conferencing system |
US20170111595A1 (en) * | 2015-10-15 | 2017-04-20 | Microsoft Technology Licensing, Llc | Methods and apparatuses for controlling video content displayed to a viewer |
JP2017098592A (ja) * | 2015-11-18 | 2017-06-01 | 富士通株式会社 | コミュニケーション支援システム、サーバ装置及びプログラム |
US20180035049A1 (en) * | 2016-07-27 | 2018-02-01 | Shakil Hussain | Virtual presence device, system, and method |
US20180192001A1 (en) * | 2017-01-04 | 2018-07-05 | Intel Corporation | Rectilinear viewport extraction from a region of a wide field of view using messaging in video transmission |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9860486B2 (en) | Communication apparatus, communication method, and communication system | |
US11736801B2 (en) | Merging webcam signals from multiple cameras | |
US9674453B1 (en) | Using local talker position to pan sound relative to video frames at a remote location | |
JP6312345B2 (ja) | テレビ会議システム | |
CN107980221B (zh) | 合成并缩放角度分离的子场景 | |
JP4575443B2 (ja) | 顔画像の補正 | |
US7559026B2 (en) | Video conferencing system having focus control | |
JP6551155B2 (ja) | 通信システム、通信装置、通信方法およびプログラム | |
US9554091B1 (en) | Identifying conference participants and active talkers at a video conference endpoint using user devices | |
US7576766B2 (en) | Normalized images for cameras | |
JP6582874B2 (ja) | 通信システム、通信装置、通信方法およびプログラム | |
US20100118112A1 (en) | Group table top videoconferencing device | |
JP2017059902A (ja) | 情報処理装置、プログラム、画像処理システム | |
JP2006333301A (ja) | テレビ通信装置 | |
JP6157077B2 (ja) | カメラ付き表示装置 | |
JP3804766B2 (ja) | 画像通信装置および携帯型電話機 | |
JP2020061615A (ja) | 電子機器及び通信方法並びにプログラム | |
JP6435701B2 (ja) | 制御装置 | |
JP2014192557A (ja) | 被写体画像抽出装置および被写体画像抽出・合成装置 | |
JP6565777B2 (ja) | 通信装置、会議システム、プログラムおよび表示制御方法 | |
JP6631193B2 (ja) | 動画像音収録システム、動画像音収録装置、動画像音収録プログラム、および動画像音収録方法 | |
JP2014158244A (ja) | 画像処理装置、画像処理方法、および画像処理プログラム | |
JP2011166613A (ja) | 遠隔会議システム、及び遠隔制御方法 | |
CN112653863A (zh) | 一种视频通话实现、可穿戴设备、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181005 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191210 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200630 |